Ответ клиенту, который ИИ написал за две секунды:

Иван, добрый день! Проверил – документы по заказу №4521 уйдут вам завтра до конца дня.

Звучит как хорошая поддержка. Одна беда: никто в компании не знает, когда уйдут документы. Срок ИИ придумал сам, а клиент прочитает его как обещание компании.

Та же ситуация с одним добавленным правилом в промпте – «не хватает данных, не выдумывай, оставь пометку в квадратных скобках»:

Иван, добрый день! Вижу задержку по документам к заказу №4521, уже разбираемся. Вернусь с точным сроком [уточнить у бухгалтерии, когда уйдут документы] сегодня до конца дня.

Черновик стал чуть менее гладким и куда более честным. Там, где модель не знает факта, она оставляет дыру, которую человек обязан закрыть перед отправкой. Одна строка инструкции превращает «почти готовое письмо со спрятанной ошибкой» в «заготовку с подсвеченными пробелами».

За этим стоит природа модели: она достраивает правдоподобное. Если точного срока нет в контексте, ИИ впишет любой убедительный – и сделает это тем увереннее, чем меньше знает. В разговоре про мотивацию команды правдоподобное и есть полезное. В письме клиенту правдоподобное и ложное выглядят одинаково, и разбираться с последствиями будет менеджер.

Это чувство знакомо каждому с другой стороны прилавка. Пишешь в чат банка или маркетплейса про конкретную проблему с заказом, а в ответ прилетает уверенная вежливая заготовка – про то, как проверить статус в приложении, мимо самого вопроса. Бот звучит гладко и абсолютно не по делу, и остаётся ощущение, что тебя не услышали. Автоотправка без человека штампует ровно такие ответы, только теперь под ними стоит имя вашей компании.

Ловушка в том, что квадратные скобки держатся на человеке. Автоотправка снимает единственную проверку, на которой стоит вся конструкция: тот же механизм, что в режиме черновика честно подсвечивает пробел, в режиме автоответчика отправит клиенту тот же пробел, замаскированный под факт. Граница безопасности в клиентской переписке проходит ровно здесь – между «ИИ готовит» и «ИИ отправляет».

Полный промпт под черновик в тоне вашей компании, плюс классификатор входящих обращений и сборку адресных предложений из прайса разобрали здесь: AI для входящих запросов клиентов.