Кто юрикам делал автоматизацию/внедрение ИИ?
Поделитесь опытом:
- какие модели прикручивали - локальные или апи? Если локальные то на каком железе?
- Сколько БД/раг места занимает (можно верхний предел)?
я делаю сейчас в битрикс … все зависит от задач что автоматизировать = такая и модель = такая и реализация локально или на провайдера
если по моделям если они для диалога то начиная от gemma и разных qwen в том числе и T-pro
если анализ и логика то GLM хороший вариант
самый бюджетный вариант по железу 2х3060 =24 - модели 27-30B на 128к окне работают стабильно
А можешь чуть подробнее рассказать что делаешь в Битрикс? Битрикс24 имеется ввиду?
да вот мой конструктор на нем и собираю агентов https://viveksha.ru/
пока на уровне приложения в маркете битрикс - на днях буду стартовать
Кейс: юрист ведёт пару сотен клиентов в тг; каждый день от них поступают вопросы, часть из которых - однотипные.
Вопрос: что можно придумать, чтобы натренировать ии на переписках с клиентами, дела которых уже завершены, и на базе этих переписок бот будет предлагать от ответы на запросы от клиентов?
Правда в этом есть, НО, если дать ценность, и не скрывать что это помощь от ИИ, но на базе к примеру реальных дел этого юриста, либо его личное мнение по данному вопросу, то может и лояльности прибавить, но только с обязательным ответом реального человека, т.е. параллельные линии.
Напомнило, название скиньте организации которая будет такой AI использовать 
в черный список сразу занесу
Юрист сам будет отвечать, ИИ лишь в помощь, чтобы быстро по контексту сузить набор возможных ответов
Вам бы лучше найти профильную группу, они есть в телеграм, там где как раз юристы с llm экспериментируют.
А сюда ха техническими вопросами, советами и т.п.
Обучать ничего не надо, надо будет сформировать базу знаний "вопрос вам - “ваш ответ”, и уже на эту базу агент которого вы будете использовать будет давать ответы, сверяясь с актуальными законодательными актами, если они изменились во время вашего ответа, должен будет осекаться, что возможно эти ответы более не релеватны.
Можете начать с какого-нибудь простого агента и начинать собирать систему описывая простыми словами что вы хотите, параллельно изучите м примеры уже готовых систем и будете параллельно тестировать то что строите.
Зачастую в начале все стараются построить систему типа human in the loop, т.е. агент вам подготавливает ответ, а вы проверяете и нажимаете кнопку “отправить”.
Агента можете выбрать любого доступного, либо что-то полегче и что из России можно оплатить - OpenCode какой-нибудь с его бесплатными моделями и подписками Openrouter, правда сейчас не знаю что из этого можно оплатить из России.
Если проблемы с оплатами нет зарубежных сервисов и доступа через VPN, то можно замахнуться на подписку Codex или Claude Code, там будут скорее всего даже готовые решения какие-нибудь.
openrouter тоже теперь банит русские ip . если подписки 0 то только китайцы (оплата зарубежной картой, или всякими ggsel и ко). Если оплата за апи - есть много шлюзов с оплатой рублями, например routerai.ru (чем сам иногда пользуюсь, для эпизодического использования gpt-image) Но, наценка за шлюз с рублевой оплатой великовата…
https://platform.claude.com/docs/en/about-claude/use-case-guides/legal-summarization
Вот как антропики рекомендуют делать. Для общего понимания что делать.