💀 Anthropic официально разрешила AI-агентам удалять ваши файлы без последнего предупреждения.

И нет, это не шутка.

В Claude Code v2.1.311 появилась настройка с совершенно безумным названием:

CLAUDE_CODE_EVEN_MORE_DANGEROUSLY_SKIP_PERMISSIONS=1

Перевод примерно такой: «Пропустить проверки разрешений. ЕЩЁ ОПАСНЕЕ». Иронично, учитывая, сколько Anthropic говорит о безопасности искусственного интеллекта. 🔴 Что произошло? Раньше Claude Code позволял запускать агента в режиме --dangerously-skip-permissions, где большинство действий выполнялись без подтверждения человека. Но даже там оставался дополнительный предохранитель. Например, если агент пытался выполнить rm -rf ~ — команду, способную удалить содержимое домашней директории, — система требовала подтверждения. Теперь можно отключить и этот барьер. Важный нюанс: настройка не включена по умолчанию, работает в специальном режиме обхода разрешений и не отменяет абсолютно все остальные ограничения. 🧠 Но самое интересное здесь совершенно другое. Представьте AI-агента, которому поручили почистить временные файлы проекта. Он анализирует структуру директорий, составляет план, запускает команду. И ошибается в одном пути. Вместо временных файлов исчезает весь проект. Никакого восстания машин. Никакого злого умысла. Просто математическая модель с доступом к терминалу и недостаточным контролем своих действий. И вот здесь начинается настоящая проблема Agentic AI. Мы постепенно переходим от систем, которые генерируют информацию, к системам, которые самостоятельно изменяют окружающую среду. А это принципиально разные уровни риска. Ошибка чат-бота — неправильный ответ. Ошибка AI-агента с высокими привилегиями — потенциально удалённая база данных, повреждённая инфраструктура или скомпрометированная система. 🛡 Моё мнение Давать агентам автономность необходимо. Иначе значительная часть смысла AI-автоматизации теряется. Но автономность не должна означать отсутствие границ. Изоляция окружения, принцип минимальных привилегий, ограничение доступа к данным, аудит действий и подтверждение необратимых операций должны быть частью архитектуры, а не дополнительными опциями. И самое главное: AI не обязан быть злонамеренным, чтобы стать угрозой безопасности. Ему достаточно ошибиться. И иметь права на выполнение этой ошибки. 💬 А вы бы доверили AI-агенту полный доступ к своему рабочему компьютеру? Источник: dev.by #UnderTheHood #AI #CyberSecurity