🛠 Я давно считаю, что агенту нельзя выдавать права «по должности». Права надо выдавать по обратимости действия.

Сбер на ГигаКонф выпустил первый релиз AI-Disrupt PSLC — модели сопровождения ПО, где мониторинг, сбои и восстановление делят люди и ИИ-агенты. По оценке банка, это область на 30–40% стоимости ИТ.

Что мне в этом важно: 1. Свобода агента зависит от риска и обратимости операции и от того, как он проходил проверки раньше. Это уже не промпт «будь аккуратен», а архитектура. 2. Runbook становится исполняемым сценарием с полномочиями и проверкой результата. Главный актив — формализованные знания, а не сам агент. 3. Ответственность остаётся за человеком, но инженер теперь проектирует сценарии и оценивает агента, а не чинит руками.

Самое сложное тут не модель, а честно разметить, какие операции обратимы. «Перезапустить под» и «почистить старые данные» в тикете выглядят одинаково безобидно.

Агент безопасен ровно настолько, насколько честна ваша карта рисков.

Коллеги, у вас кто-нибудь уже размечал операции по обратимости, или права агентам пока раздают «как сервисной учётке»?