Какую работу вы не доверите ИИ?
Представьте, что клиент спрашивает, когда будет готов сайт, и ИИ составляет ответ: "Всё закончим к пятнице". Звучит отлично, только команда этот срок ещё не обсуждала.
Это вымышленная ситуация, но она помогает поставить вопрос: какие решения можно поручить нейросети, а какие стоит оставить человеку?
Черновик ответа легко исправить. С отправленным обещанием придётся разбираться уже с клиентом. Убедительный тон здесь способен сыграть злую шутку: письмо выглядит готовым, хотя главное в нём ещё никто не согласовал.
Я бы разделял работу по тому, что произойдёт после ошибки. Для списка идей достаточно выбрать подходящие варианты и вычеркнуть лишнее. Для ответа клиенту нужно проверить факты и договорённости. Если помощник умеет сам отправлять сообщения или менять данные, заранее стоит определить, какие действия требуют подтверждения.
Удобно назвать конкретную границу. Например: "Помоги сформулировать ответ, срок пока не согласован. Подготовь черновик и отметь, какие сведения нужно уточнить". Если помощник умеет отправлять письма, отдельно проверьте его реальные разрешения и возможность подтверждать каждую отправку. Фраза "подготовь только черновик" сама по себе не доказывает, что отправка технически запрещена.
Никому не хочется объяснять коллегам, откуда взялась пятница, о которой все впервые услышали от клиента.
Google в руководстве по точности и безопасности генеративных моделей тоже рекомендует учитывать последствия ошибок и проверять ответы людьми. У подписи к картинке и сообщения заказчику разные последствия.
Интересно собрать конкретные примеры из разных профессий. Какую одну рабочую задачу вы не доверите ИИ целиком, даже если он пишет убедительно?
