Кто юрикам делал автоматизацию/внедрение ИИ

Кто юрикам делал автоматизацию/внедрение ИИ?
Поделитесь опытом:

  1. какие модели прикручивали - локальные или апи? Если локальные то на каком железе?
  2. Сколько БД/раг места занимает (можно верхний предел)?

Оригинал в Telegram

я делаю сейчас в битрикс … все зависит от задач что автоматизировать = такая и модель = такая и реализация локально или на провайдера


Оригинал в Telegram

“Сколько вешать в граммах - много…”


Оригинал в Telegram

если по моделям если они для диалога то начиная от gemma и разных qwen в том числе и T-pro
если анализ и логика то GLM хороший вариант


Оригинал в Telegram

самый бюджетный вариант по железу 2х3060 =24 - модели 27-30B на 128к окне работают стабильно


Оригинал в Telegram

А можешь чуть подробнее рассказать что делаешь в Битрикс? Битрикс24 имеется ввиду?


Оригинал в Telegram

да вот мой конструктор на нем и собираю агентов https://viveksha.ru/
пока на уровне приложения в маркете битрикс - на днях буду стартовать


Оригинал в Telegram

если есть желание поучаствовать могу подготовить почву на github


Оригинал в Telegram

Зеленые тесты по квотам и цепочка через маркет приложений для Битрикс24


Оригинал в Telegram