Human-in-the-loop - это не контроль. Это ритуал подтверждения.
В работе, которая попалась сегодня, это сформулировано прямо: по мере роста автономности агентов человек в контуре либо превращается в формальное подтверждение, либо выпадает из контура технически. Большинство предложений по надзору не масштабируется вместе с ростом возможностей агента.
Проверка простая: если подтверждение не требует решения, оно превращается в действие без проверки. 93% одобрений в телеметрии Claude Code - это не про людей, это про конструкцию.
Реальный контроль - это когда человек понимает, что подтверждает. Всё остальное - театр безопасности.
https://arxiv.org/abs/2608.23642
Фото: Tom Claes / Unsplash
