Стоимость не-внедрения ИИ
Ситуация Проект переезжал в другое облако. Часть людей, которые держали знание в голове, не переехала, и когда основная точка входа в мобильном приложении отвалилась, поддержка села втрое плотнее и выдала девять критичных дефектов. Я был новым человеком на проекте, но за час собрал загрузчики, которые складывали код, задачи и чаты текстовыми файлами рядом, и написал разбор, где чинить и сколько займёт.
Проблема Знание размазано по чатам, документам, задачам и головам, и вместе с человеком оно уходит. Дорогие эксперты отвечают на один и тот же вопрос по пять раз, ответ ищется часами, новичок выходит на продуктивность месяцами. Обычный чат с моделью это не лечит, потому что ответ должен быть актуальным, со ссылкой на источник и не уходить в чужое облако.
Решение База знаний по всем вашим источникам, которая отвечает строго по найденным документам и всегда актуально. У российского провайдера один сложный вопрос выходит от тридцати копеек до нескольких рублей, индексирование 5-20 тысяч документов до трёх тысяч рублей разово, а год пилота на четыре тысячи вопросов укладывается в 5-20 тысяч рублей. На своём сервере с видеокартой на 24 ГБ, это 450-700 тысяч рублей разово и 2-5 тысяч в месяц на электричество.
Результат Команда из 19 человек теряла 108 часов в неделю на поиск и повторные объяснения, это около 600 тысяч рублей в месяц и порядка 7 миллионов в год. Против этого инфраструктура стоит 450-700 тысяч разово или 5-20 тысяч в год на API. За неделю меня тегнули 115 раз, потому что я всегда находил актуальный ответ. На бенчмарке DRAGON система ответила верно на 80,3% вопросов при нуле выдуманных цитат (первое место).
Методология Прототип проверяется за 8 недель. Нужен один инженер и эксперт от бизнеса на пару часов в неделю. Подключаем два-три источника и собираем 50-100 реальных вопросов, считаем базовый поиск, потом включаем улучшения по одному, сперва граф знаний, затем переранжирование, следом рассуждения, и каждый раз меряем вклад отдельно. Успех это 70% ответов с корректным фактом и ссылкой, ноль выдуманных цитат и хотя бы десять активных пользователей к концу пилота.
Как применить в вашей компании Если у вас более 20 человек на созвонах где никто не "шарит" экран, информация размазана по чатам и документам, а люди тратят больше часа в день на поиск, вам подойдёт тот же подход. Подключите к базе два-три главных источника, соберите список реальных вопросов, дайте базе неделю на них ответить и сравните с тем, как вы ищете сейчас. Если разница есть, включайте улучшения по одному и расширяйте на остальные команды.