Ну да, она более дисциплинированная, утрированно если сказать.
Нуу, работает. Будто бы даже лучше чем обычные
Да там память внутренняя и инсрументы знает как вызывать специально для агентов разработана
Ну тоесть не может одновременно код работать правильно и с той и стой , если он не особо хитрый
Ну тоесть нет поддержки инструкт напрямую , только через промты глобальные работай такто ?
О общем нет специальной поддержки инструкт , это печально, инстркукт он бы в разы умнее был бы
Сегодня буду собирать dell730xd и посмотрим кто заработает правильно на легких квантованных инструкт
Это я уже понял он ив облаке от нвидиа апи не хочет правильно работать , не ожидаю от него что он локально заработает , но есть другие которые надо затестить
тогда локальная модель и pi agent или какой-нибудь picoclaw можно попробовать, если получится, что то здравое, интересно будет
Инструкт модели от обычных отличаются только дополнительным дообучением работе именно с инструкциями… Но это не делает их какими то уникальными, просто чуть меньше количество ошибок
ну как сказать, смотря что его заставлять делать, у меня один крутится на qwen3.5:9b, который развернут на отдельной машине на 4070ти, и там прокси сервер раздаёт модель по openai типу эндпоинта, работает, отвечает, может в рамках уровня модели многое, ответ секунд 20. Конечно не сравнится по уровню возможностей с топ моделями, но если что-то сломалось, помочь что-то сделать может, например сегодня в конфиге токен бота менял успешно.
Вот наверное предел по параметрам это gpt-oss-20b, из того что можно запускать нормально, не на серверных видюхах.
Но просто на постоянку с openclaw на этих моделях не приятно работать.
Хотелось все таки сетап найти который за 300$ в месяц не будет тупым
rtx 6000 pro на vast.ai - цена чуть выше, в районе 500$ но 96GB vram, это самый дешевый вариант… остальное проще подписка, хотя думаю за 500$ можно все подписки взять топ моделей, даже дешевле получится😄
Её наверное адекватнее купить за 15к±, устновленная локально, а не где-то там, где отключат в любой момент, плюс блокировки, маршруты… Стоит ли 500$ в месяц??(риторический вопрос)
Кто то codex через подписку использует ? Пришлось экстренно мигрировать с подписки антропиков из за вчерашнего изменения политики. Интересно насколько качество упадет , sonnet конечно топовая модель для общих задач , если thinking на максимум выкрутить. Жду теперь насколько пользовательский опыт ухудшится . Китайские модели пока не рассматриваю , имхо сильно уступают в day to day использовании. Бенчмарки они конечно научились крутить , но в реальной жизни бенчами сыт не будешь.
выкидывать лям просто чтобы у тебя она локально была - ну верх идиотизма…
Тоже вчера на нее переехал. Пока что из того, что успел словить - 5.3-coder зависает в цикле, что собирается что-то сделать, но не делает ты ему напоминаешь, он пишет что ты прав и он сейчас сделает и не делает (хз как это одним словом назвать, promise loop?) перешел на 5.4 обычную - проблема ушла, тулзы вызывает, несколько сообщений в ответ присылает