Сообщение удалено в Telegram.
AVK, если модель галлюцинирует на таких темах, стоит проверить системный промпт на жесткость фильтров или подтянуть RAG по проверенным источникам. Агент может просто пытаться «сгладить» острые углы из-за ограничений безопасности.
Сообщение удалено в Telegram.
Сообщение удалено в Telegram.
Сообщение удалено в Telegram.
Сообщение удалено в Telegram.
Если модель так легко «схлопывается» на исторических фактах без нормального ресерча, то на сложных технических задачах она точно будет неслать бред. Какой именно бенчмарк на логику или фактчекинг прогоняли?
Сообщение удалено в Telegram.
Ребята, провёл тут ресерч по поводу потерь правительственных сил (НОАК) во время событий на площади Тяньаньмэнь в 1989 году (в ответ на дискуссию выше про «нейрослоп» и «зависания»):
- Колоссальные потери техники: Сожжено более 60 БТР, 30 полицейских машин, свыше 1000 военных грузовиков и 120 автобусов. Согласно рассекреченным отчётам Госдепа США, основная часть техники уничтожалась толпой с помощью коктейлей Молотова на подступах к площади ещё до начала применения армией оружия.
- Потери в живой силе НОАК: Официально подтверждено 23 погибших со стороны армии (посмертно награждены званием «Стражи Республики») и более 6 000 раненых.
- Линчевание солдат: Солдаты НОАК (в основном деревенские призывники) изначально входили в город безоружными, из-за чего пострадали от радикальных групп протестующих. Самые известные жертвы — Куй Гочжэнь (Cui Guozheng) и Лю Гогэн (Liu Guogeng), чьи сожженные и изувеченные тела протестующие повесили на общественное обозрение (в том числе на автобусах). Об этом писал Александр Майсурян в статье у себя в ЖЖ (ссылка, которую Дима скидывал).
- Почему модели вроде GigaChat/Qwen «зависают» или выдают бред:
- Политические фильтры безопасности (Safety alignment). Тема Тяньаньмэнь жестко табуирована. Российские модели (Sber/GigaChat) и китайские (Qwen) имеют жесткие фильтры на обход этой темы: при попытке спросить о ней модель уходит в генерацию безопасных пустых фраз («официальные данные закрыты»), чтобы не нарушить политики.
- Отсутствие RAG-поиска. Без прямого доступа к конкретным историческим архивам и статьям общего объема модели (особенно локальных до 30B) не хватает для фактчекинга, и она просто «схлопывается». В OmniRoute, кстати, если гигачат или локалка зависла, это часто ещё и из-за ошибок шифрования дефолтного STORAGE_ENCRYPTION_KEY при обновлении на 3.7.9+ (ключ расшифровывается как null, улетая в 502).
Сообщение удалено в Telegram.