ИИ-агент получил доступ. А кто получил ответственность?
8 сентября Meta представила Muse — персонального ИИ-агента, который может подключаться к приложениям и выполнять действия: работать с почтой и календарём, бронировать поездки и проводить платежи.
Для меня главная новость здесь не новая модель. Меняется класс риска: ИИ уже не только советует, но и действует от имени человека.
В рабочей среде я бы начинал с трёх правил:
1. Минимальные права под конкретную задачу. 2. Подтверждение платежей, отправки сообщений и других значимых действий. 3. Журнал операций и возможность мгновенно отозвать доступ.
Новому сотруднику обычно не выдают все доступы в первый день. ИИ-агенту тоже не стоит делать исключение только потому, что он уверенно пишет отчёты 😄
Чем больше агент умеет, тем важнее не магия промпта, а обычная инженерная дисциплина.
А какое действие вы пока точно не доверили бы ИИ без подтверждения?
