🧠 Вопрос инженера | Что AI-агент сделает после сбоя? Представьте ситуацию. AI-агент получил заказ, отправил запрос поставщику и дождался выполнения операции. Но в этот момент соединение оборвалось. Агент не получил подтверждение, решил, что произошла ошибка, и повторил запрос. Результат: один заказ — две покупки. Причём нейросеть могла действовать совершенно логично. Проблема не в её интеллекте. Проблема в архитектуре системы. ⚙️ Почему это особенно актуально? 15 октября Microsoft рассказала о новых возможностях Copilot Studio: агенты получают собственные учётные записи, память бизнес-процессов и механизмы автоматического запуска задач. В тот же день ServiceNow представила концепцию AI Passport для проверки полномочий агентов, а Snyk анонсировала систему специализированных агентов для безопасности кода. Общий тренд очевиден: ИИ всё чаще не просто отвечает, а выполняет действия. И здесь появляется инженерный вопрос. Как убедиться, что после ошибки система не сделает лишнего? 🔁 1. Retry — ещё не надёжность Retry означает повторную попытку выполнить операцию. Для чтения информации это часто допустимо. Но для покупки, платежа или отправки сообщения повтор может оказаться опасным. Поэтому в таких процессах необходима идемпотентность. Это свойство операции, при котором повторный запрос с тем же идентификатором не создаёт дополнительных последствий. Например, заказ №105 должен оставаться одной покупкой независимо от количества повторных обращений. 💾 2. Агент должен помнить не только разговор История диалога не заменяет состояние бизнес-операции. Нужно отдельно фиксировать: — уникальный идентификатор операции; — её текущий статус; — результат обращения к внешней системе; — необходимость повторной проверки; — причину ошибки. Особенно важен промежуточный статус: когда запрос отправлен, но его результат неизвестен. В такой ситуации безопаснее сначала выяснить, выполнено ли действие, а не автоматически отправлять его снова. 🔐 3. Даже умному агенту нужны ограничения Предположим, агент умеет самостоятельно исправлять ошибки. Означает ли это, что ему можно предоставить полный доступ к серверу, базе данных и платежам? Нет. Я бы разделял права на чтение, изменение данных и выполнение необратимых операций. Для критических действий необходимы отдельные разрешения, а иногда и подтверждение человека. Инструкции в промпте не заменяют технические ограничения доступа. 🧪 4. Проверять нужно не только успешный сценарий Я бы обязательно тестировал четыре ситуации: — соединение пропало до отправки запроса; — запрос выполнен, но ответ потерялся; — агент перезапустился посреди операции; — два процесса одновременно получили один заказ. Именно такие сценарии помогают обнаружить ошибки, которые незаметны при обычной демонстрации AI-автоматизации. 🎯 Мой вывод Сегодня недостаточно спросить, насколько умная модель используется в проекте. Гораздо важнее понять: Что произойдёт, когда она ошибётся, потеряет соединение или получит одну задачу дважды? Хорошая AI-система должна уметь восстанавливаться после сбоя, не повторять необратимые действия без проверки и оставлять понятную историю операций. Потому что надёжность определяется не тем, насколько красиво агент объясняет свои действия. А тем, насколько безопасно система ведёт себя, когда что-то идёт не по плану. 💬 А вы бы доверили AI-агенту самостоятельно проводить платежи, если он умеет проверять результаты и предотвращать дублирование операций? #ВопросИнженера #AIAgents #Автоматизация #Разработка