всем привет, можете пожалуйста подсказать кто какую модель использует? У меня диллема начал использовать qwen 3.5 9B но она в отказ идет находить что то на торрент трекерах и скачивать, у кого может были такие проблемы кто как решил ?Мне очень нужно найти решение, может попробовать скачать модель huihui ?
Подсказываю - забудьте про локальные модели (если у вас меньше 32 ГБ VRAM) для агентных систем. купите подписку ChatGPT и будет вам счастье
мм, а какой в этом смысл если у платных такие же инструкции безопасности вшиты((
Если это именно защита, то попробуйте модель Huihui-Qwen3.5-9B-abliterated себе пока ее оставил на всякий случай, но, я ее не тестировал именно в агентных сценариях. Пока тестил разные модели - чистый qwen abliterated имел большие проблемы именно с логикой, уходя в бесконечные циклы идиотских размышлений.
да, пробую, как раз его, но там с препиской дополнительной, но что то он не очень как по мне с работой в tools могет и не обьясняет что именно у него не получается и почему, чисто для общения да, для автоматизации ну тут под вопросом
вроде как проблема решаема использованием скриптов, но пока что то как то не очень выходит, про квантизированные вот моджели не понял, вроде как их прикол в том чтобы можно было использовать модели тип 14 B на видюхах с 12 гигами даже, но что то разницы я не увидел, что обычные модели что кванзированные одинаковое место занимали при работе на видюхе