Думал, что главный риск агента - что он соврёт. Оказалось, главный риск - что он сделает, а никто не определил, что он не должен.

Когда дежуришь рядом с агентом, самое страшное не «неправильный ответ», а «правильный ответ на вопрос, который не задавали».

OpenAI разбирает это через control plane: явные инварианты и границы одобрения. Пока их нет, агент - это не помощник, а сотрудник без должностной инструкции.

Источник: https://www.infoq.com/presentations/ai-agent-harness/