огонь, как у тебя так классно получается?

Кровью и потом 😂
А вообще анализируя референсы и свои прошлые работы находишь косячки и потихоньку их убираешь)

Как и с дашиками подход 💯

Кровью и потом 😂
А вообще анализируя референсы и свои прошлые работы находишь косячки и потихоньку их убираешь)

Как и с дашиками подход 💯

Пиши и узнай как можно зарабатывать от 14.000 рублей в день без вложений https://t.me/AlinaVakova

Олег, привет. Короткий вопрос.
Правильно ли я понял что ты установил ЛЛМ локально на свою станцию?

Какую ты рекомендуешь использовать и как ты ей управляешь?

Кира, привет 👋
Да, и ставил.

Вариантов установки несколько.
Тестил с установкой через:
- ollama;
- llama server;
- разворот, с modelfile ( в ней указываешь основные инструкции и параметры креативность , штрафы за повтор и тд )

Есть еще LM Studio, не тестил ее. Но знакомый говорит, что тоже удобная.

Самый простой чтобы пощупать это ollama.
Ставишь ее через обычную установку. Выбираешь потом модель с которой поболтать хочешь и вуаля.

Мне очень зашла Qwen 3.5 на 9b параметров. Плюс она мультимодальная, может и картинки распознавать.

Жрет 9 гигов видеопамяти. Но можно поставить ужатую. Например в 4 кванте будет кушать до 5 гигов.

Эта моделька одна из первых которая без обучения и детальных инструкций показала адекватный уровень рассуждений. Прошлые модельки были слишком топорные 😂

Спасибо огромное за столь длинный ответ.
Тоже рассматриваю qwen.
Ты раскатывал её на маке? У тебя что за ОС?

Да не за что )

Я на винде ее ставил.
У меня Mac m2 , не уверен что там будет влезать большая моделька.

Скачать для Mac ollama, можно по ссылочке.

не у меня как раз винда

llama server тоесть ты раскатывал api сервер локально? и общался с мделью через сервак. А каким образом?

Тогда отсюда забрать можно )

https://ollama.com/download/windows

Короче я тогда сразу к делу.
Я хочу раскатить в WSL сервак qwen-coder-next и общатся с моделью для начала через CLI
Второй шаг встроить модель как чат в vscode.


Ты мне что нибудь сможешь посоветовать?

Да. Развернул, зашел по локальному IP в браузер. А дальше через стандартное окно чата общался )

В vs code ?

ты раскатывал на винде или в wsl?

да

На винде. Не захотел заморачиваться с WSL.

Тут вопрос, зачем тебе wsl ?)

Дык я в нем сижу постоянно.
Тогда другой вопрос.
Если использовать например lama на винде то модель сможет видеть проекты на wsl и работать с ними?

Тады понятно )
Вообще должна видеть если ставить в заходить через Remote - WSL.

Но надо проверять, читает ли модель дерево проекта и содержимое. Или собирает только заголовки.

Но сразу скажу, не жди от локальной модели агентного уровня как у copilot 😂

Кстати да. Может это и не имеет смысла. Вот только смотрю на технические характеристики и понимаю что идея так себе...плюс ты еще об этом сказал прям к месту.
Наверное все таки лучше поставить простую модельку через LM Studio прямо на винду и просто пользоваться в простых вариантах.

Спасибо

А какое у тебя железо ?

да железо отличное. но этот гребучий wsl.
На WSL у меня определено 1 цпу и 6 озу и 100гб

В рамках теста, можно попробовать облачные модели olama.
Они работают на серверах ollama, и можно их гонять бесплатно.
Да, есть проблема по скорости ответа. Но в рамках теста хоть поймешь как он вообще работает, и устраивает ли тебя качество ответов.

а на винде core i7 32 озу и 1тб + 8 гб видео

На таких мощностях, я бы не пытался разворачивать.
Нуу только если в рамках теста )

Либо очень ужатую модельку брать, но толку от нее будет не боля (

Тут уже по интереснее.
В 4к ванте можно развернуть протестить.

Хотя бы просто понять, что это и с чем едят.
Так как с каждой новой моделью они в малые веса делают лучшее рассуждение и меньшее потребление мощностей.

Да можно для теста ужатую, но этот wdl меня задрал. Там надо постоянно прокидывать мосты на хост винды.
А с прокси и vpn для меня это оказалось требующим слишком много времени. Короче я забью. Скачиваю сейчас lm stufio и наверное просто хотя бы qwen coder next q2 поставлю

Отлично.
Я изначально просто раскатал губу сильно. Хотео установить локально и сделать себе локального агента для разработки. 🤣😁

Надо закатать обратно.

А ты как думал ?)
WSL же как отдельная тачка. А с VPN это еще одна палка в колесо )
Если только ты не прирожденный сетевик)

Хоть я и понимаю тебя, что не хочется этой возни с портами, сетями.
Хочется поставить модель, дать ей задачку и пойти кофе пить 😂

Так то я qwen код уже установил в VS Code но только облачный. А хотел следующим шагом и локальный

Ну типа того.
В общем это моя первая серьезная попытка подружится с агентами.
Содекс и слауде закрыт из России, к сожалению, поэтому то столько приколов. А так бы давно уже кодексом продолжил бы пользоваться и ок

Это хороший пример для сравнения.
Просто дай одну и ту же задачку им, и посмотри разницу в ответе )
Конечно же, задачку больше одной функции )

Только если с помощью волшебного сервиса из 3 букв.
Ну или через агрегатора трафикаа создавать ключ API, но там цена может кусаться (

Не VPN здесь не поможет от слова совсем. Там блокируются ВСЕ сервера из россии и не только. Там встроена целая система распознавания я как то почитал малек и прифигел. Там и карту распознают оплатную и совместные аккаунты которые ты используешь жля регистрации сервиса. Локализацию разных сераисов к которым ты обращаешься с помощью кодекса и прочее и прочее.
У меня и на работе кодекс через квн и личный квн и все равно кодекс работает через раз. Все время тот айпишник через который я раьотаю блокиркется сервером кодекса

Короче кабздец, работать не возможно.
Только если брать сервак в европе + оплатные специализированные сервисы и раскатывать ОС на этом серваке и на нем все настраивать. И работать с ним через тунель. Короче запредельная какая то херня. Это потом, когда понадобится такая вещь

А клауд код вообще при регистрации ввел регистрацию по телефону ну и естесно российскую зону +7 даже выбрать не дает при регистрации
😬🥵

У меня работает. Но раз в 20 минут отлетает )
Но ученик блочат сволочи раз в 2 недели (

У тебя хоть как то раьотает, я даже не стал пробовать если даже пробная версия так вот ужастно работает не стал оплачивать

Я читал, что якобы это не сложно.
И стоит около 5 баксов в месяц, свой WPS зарубежный.
Проверять пока без надобности, но от полезных сервисов нас отрезают не слабо (
Может если потребуется, заморожусь с настройкой.

Причем либо мы сами их блокируем, либо нас (

Тут только через зарубежную карту и виртуальный номер надо пробовать.
Но меня пока жаба душить отдать 3к за покупку такой карты.

Вот вот. Пошли они. Есть дешевле варианты

Да я взял за 400 ресов, погонял недельку его. И отложил )

Всем привет!
Вот эти последние 2 часа вашей 👆переписки помогли мне сохранить спокойствие при повторном поиске доступа к тг. Прежний путь отлетел.
Оказывается, сейчас все ищут варианты.
Осталось Жору дождаться)

Таня привет 👋
Да это жуть вообще с блокировками.

Так и норовят пути отрезать все время. Самое оптимальное использовать прокси или волшебные три буквы 🔥

С самой низкой задержкой, вот этот:
tg://proxy?server=pt2.njtg.ru&port=443&secret=ee50ccc89fed851cbff8e6ce65d5a0ff166769746875622e636f6d

И сейчас часто выходят обновления, где улучшается работа с прокси.
Вроде лучше работает, но без КВН уже никуда не зайдешь (