AI-агент ошибся. Кто виноват?

Представим ситуацию. Агент по закупкам сам согласовал заявку поставщика. Валидация прошла, все метрики зелёные. Через неделю выясняется, что цена в заявке была завышена на 30%, а деньги уже ушли.

Начинается разбор, и у каждого готов ответ: — разработчик: «агент сделал ровно то, что ему разрешили»; — владелец процесса: «я не писал эти правила»; — сотрудник, который нажал «ок»: «я доверился системе, для этого её и внедряли».

Мне кажется, главная проблема AI-агентов в компаниях не в качестве моделей. Её создаёт ответственность, которую никто заранее не распределил. Пока агент только подсказывает, всё работает. Как только он начинает действовать сам, вопрос «кто отвечает» становится важнее вопроса «какая модель».

Кто, по-вашему, должен отвечать? 1 — команда, которая разработала агента 2 — владелец бизнес-процесса 3 — тот, кто подтвердил действие 4 — свой вариант

Пишите цифру и почему. Особенно интересно мнение тех, кто уже запускал агентов в прод.

AI-агент ошибся. Кто виноват? | Сетка — социальная сеть от hh.ru