Там же банально все - есть диалог, значит он заносится в ваулт и индексируется, при том не важно где этот диалог. Главное индексация, а не просто портянку текста закинуть.
Похер вообще, он делает запрос, получает 3 (или сколько то) релевантных ответа (если получает) дальше там смотрит. На вряд-ли думаю что у тебя половина поисковика там будет загружена
Ну я для разработки использую engram сейчас его перенес на сервер и проксирую через LiteLLM раньше просто жил на компе где и разработка
Он у меня чисто какраз содержит факты по разработки и сам агент туда пишет а не просто портянки сессий
Ты объемы представляешь какие будут скапливаться если просто лить сессии в память и по ним искать
Да индексация решит частично проблему скорости но не релевантности уж точно
У меня за 3 месяца опенкод базу с текстами ссесий раздул до 20Гб только одним проектом
Ну память факт, но идея просто хранить портянки текста без их обработки лично мне кажется сомнительной
Дак он заливает, индексирует и обрабатывает, там вроде у каждого диалога есть самари свой. Т.е. типа ключевые слова → дискрипшн → портянка
вот он не весь пиздёжь связывает, далее проваливаешься там у каждого диалога есть ключи, детали и перелинковка
а это пример бота, куда я скидываю видосы с ютуба и он из них делает библиотеку.
Кстати полезная штука, всем советую завести. Суть такая, ты ему кидаешь ссылку , он делает краткое самари на видео + транскрибацию, все это закидывает в базу. Потом можно поискать чтото нужное.
вообщем при правильном подходе вики полезная штука, но дает свой overhead по токенам
Я как у агента не спрошу, надо ли нам это, он говорит что не надо. Аргументирует что у меня не прод база в которой 1000 записей и 100 проектов
Поймешь что надо когда он тебя начнет переспрашивать одно и тоже по 5 раз на день
Это же обычно в USER пишется, тут тогда вопрос не в памяти, а в том как она записывается
масштабы у всех разные. Вот Nikfar решил весь ютуб переписать, естественно ему уже нужна библиотека с грамотной каталогизацией. И простыми записями в базу тут уже не обойтись из-за масщтабов
А зачем это там если это ситуативная информация которая нужна условно в 1 из 20 сессий. Суть памяти как раз в том что бы не просто хранить а использовать нужное
Я спустя 1-2 месяца сломал нормальную систему записи и память, не работу не влияло, но задачки чуть дольше делал. Когда Astra вышла починила за час весь контур