Пхах сейчас меньше 120к контекста нет смысла даже запускать
3.6 работал на моих задачах с этим контекстом на ура, а вот 3.8 постоянно упирается в ограничения, и это обе модели без режима мышления.
Hermes доработал в последнем обновлении методы работы с сжатием контекста, ещё не сильно погрузился в этот вопрос, но позволяет делать компрессию не только когда достигается предел, но и в промежуточных шагах. Я эту возможность сейчас использую, и в большинстве случаев удается держать контекст в пределах 65тыс., но иногда крупные проекты/скиллы или инструменты могут сильно вываливаться за пределы, так как на них нет ограничений на выходные данные.
Я тестирую специально локальные модели, мучаюсь, но ем кактус, так как готовлю их для работы с “чувствительными” данными компании и туда могут попадать в том числе контакты клиентов, а это запрещено выпускать за контур компании, поэтому облачные не подходят.
В опенкло разраб писал что минимум для работы агента 60к только для запуска, где-то в доках читал у него
в гермесе вроде поменьше была прожорливасть и там пограмотней работа уже в самом агенте. Это действительно заметно и работает. Вообще гермес самодостаточен, все что встроено, все работает
Как мы и говорили еще несколько месяцев назад, все плагины и всякие сторонние допы уходят в небытие. Навыки, контекст, память уже в самих агентах настроена не плохо.
[2026/08] Qwen3.8-27B support: Qwen’s new dense VL (Gated DeltaNet + Gated Attention, native vision) runs in 3.33GB of VRAM, measured end to end on one RTX 3090. Needs transformers 5.8+.
только что всего лишь примерно на четверти сессии в приложении чат-версии Qwen впервые упёрся в лимит. написано, возвращайся через девять часов. похоже что и эти - всё