Из всех доступных вариантов российский рынок почти единодушно выбрал RAG (в паре с зашитыми промтами). Ответ на вопрос «почему» — экономический и маркетинговый.

RAG понятен: он выдаёт готовые документы и безопасные, обтекаемые пояснения со ссылками — за такой результат не стыдно перед плохо осведомленными заказчиками и не страшно перед своими юристами и рисковикам, ведь продаем мы по сути глубокий поиск с красивой вывеской, RAG не скажет лишнего.

RAG дёшев: не нужны ни ML-команда, ни размеченные данные, ни месяцы экспериментов — достаточно базы (у справочных правовых систем она уже есть) и лицензии на чужую модель-пересказчика.

Есть и менее приятная причина, о которой обычно молчат. Решения о покупки таких ИИ-продуктов принимают люди, которые давно разучились работать руками — и в праве, и с системами.

Они не сидят вечерами в чате с флагманской моделью, не собирают свои промты, не проверяют модель на собственных делах — и потому не чувствуют ни реальных профитов технологии, ни её границ.

Для них «ИИ» — это KPI и строка в стратегии, которую нужно закрыть с минимальным риском, и RAG закрывает её идеально. Подчеркну разницу: опасливость инженера — это осторожность человека, который знает пределы системы; опасливость такого менеджера — осторожность человека, который систему не знает и потому выбирает то, что проще объяснить наверху.

Просто напоминаю, что у меня есть  проект #neurolex - системный труд про нейросети  в праве, и совсем скоро я опубликую новый параграф, где будет много всего интересно про надстройки над моделями - специальные продукты для юристов. Посмотрим и на российский, и на зарубежный опыт.