Как наказать ИИ

Сходил на дискуссию «Вечер лидеров данных» от 💙

Интересный кейс рассказал CDTO Альфа-банка 💳по внедрению ИИ-агента в клиентскую поддержку чата. Стандартно все запрашивали человека-оператора, никто не хотел общаться с ботом. По популярности это был запрос №1 — типичная проблема доверия боту.

Что сделали:

Дали ИИ-«copilot» для живых операторов. Сотрудник использовал бота как помощника, оценивая правильность предложенных вариантов. Так ИИ дообучался.

В следующей стадии эксперимента, после просьбы клиента переключить на живого человека, в 35% случаев диалог отдавали дообученному чат-боту с ИИ. Подмены клиенты не замечали.

Однако бич ИИ-моделей — галлюцинация — всё-таки случился. Клиента «оператор» убедил, что денег на счету для списания комиссии хватает, что было, мягко говоря, неправдой. Клиент вернулся с претензией.

Человек, бывает, ошибается. С ним работают, обучают, в конце концов, штрафуют, чтобы не повторял ошибок. А что делать с ИИ-агентом в случае ошибки? Чья это вина?

И насколько этично всё равно не переключать на оператора, а отдавать другому ИИ? Пусть даже в 35% случаев?

Перед клиентом извинились, восстановив справедливость и его веру в компанию.

А метод убеждения в том, что чат-бот не хуже оператора, интересный. Возьму на заметку.

💬 Записки CIO в Telegram 💬 Записки CIO в MAX

В этом посте были ссылки, но мы их удалили по правилам Сетки