Кирилл Эльдеев Олег, привет. Короткий вопрос.
Правильно ли я понял что ты установил ЛЛМ локально на свою станцию?
Какую ты рекомендуешь использовать и как ты ей управляешь?
Кира, привет 👋Да, и ставил. Вариантов установки несколько. Тестил с установкой через:- ollama;- llama server;- разворот, с modelfile ( в ней указываешь основные инструкции и параметры креативность , штрафы за повтор и тд ) Есть еще LM Studio, не тестил ее. Но знакомый говорит, что тоже удобная.Самый простой чтобы пощупать это ollama.Ставишь ее через обычную установку. Выбираешь потом модель с которой поболтать хочешь и вуаля.Мне очень зашла Qwen 3.5 на 9b параметров. Плюс она мультимодальная, может и картинки распознавать.Жрет 9 гигов видеопамяти. Но можно поставить ужатую. Например в 4 кванте будет кушать до 5 гигов.Эта моделька одна из первых которая без обучения и детальных инструкций показала адекватный уровень рассуждений. Прошлые модельки были слишком топорные 😂