Обобщение информации и саммаризация — одна из самых мощных возможностей LLM, но при этом довольно противоречивая. При неправильном подборе промптов и механики результат может оказаться поверхностным, без конкретики и выводов, что делает его малопригодным для дальнейшего использования. Компании по-разному относятся к применению ИИ для обобщения. Например, Bing только что запустил новую версию поиска с ИИ, а Google, наоборот, снизил частоту показа своих саммари в результатах поиска. В то же время, OpenAI запускает свою поисковую систему, и, возможно, в скором времени ситуация с качеством и принятием технологии изменится.

Если говорить о кейсах использования, то методику можно применять в различных пользовательских сценариях:

• Эффективность работы — например, Slack, МТС Линк, Productboard.
• E-commerce — Amazon.
• Социальные сети — LinkedIn.
• Поиск — Google, Bing.
• Агрегация новостей — X.
• Почта — Google.
• Ревью документов — DocuSign.
• Безопасность — Vanta.
• Поддержка клиентов — Intercom.

Мы в МТС Линк используем AI сразу в нескольких продуктах: - Встречи — создаём саммари по расшифровке аудио встреч, выделяем краткое содержание, ключевые моменты обсуждения, принятые решения и задачи. По завершении встречи участники получают по электронной почте ссылку на договоренности, расшифровку, выжимку по встрече и материалы встречи (файлы или запись) и всегда могут к ним вернуться. - ИИ-помощник — этот инструмент ещё проходит внутреннее тестирование и будет помогать находить информацию по встречам (важное за неделю, задачи для меня, назначенные за последние три дня и так далее). Основная идея — реализация помощника, использующего все продукты: встречи, чаты, доски для получения информации, работы с задачами, напоминаний, отчетов и так далее. - Чаты — делаем саммаризацию тредов (обсуждений под сообщением). Эту возможность я использую постоянно, когда лень перечитывать всю дискуссию под постом о релизе или ошибке и хочется только понять: релизим или нет, исправили или нет. - Не знаю можно это отнести сюда или нет (скорее да), но точно экономит время. Мы предлагаем не пересматривать всю запись, а показать только те моменты, где были важные обсуждения и вместо 60 минут пересмотреть 10-ти минутный отрезок.