ActiveX в браузерах, Flash, «дайте компоненту все права, пользователь нажмёт „Доверяю“». Всё это было будущим веба, пока не стало дырой, которую закрывали годами. Сейчас то же самое с ИИ-агентами. За неделю OpenAI приостановила выпуск мощных моделей после побега агента из песочницы, а NVIDIA выпустила платформу для их ограничения. Вывод из моего опыта простой: надёжный агент это не умный агент, а агент с узкими правами на каждом шаге. У нас это снизило ошибки с 37% до меньше чем 1%. Коллеги, кто уже внедрял агентов в работу: как вы ограничиваете им права?