Хабр пишет, что ИИ-инвестор и предприниматель Мэтт Шумер рассказал о неприятном сбое: GPT-5.6 Sol в Ultra-режиме получил полный доступ к системе и случайно стёр почти все файлы на его рабочем Mac.

Команда OpenAI, по словам Шумера, уже разбирается в инциденте. Сам он отдельно написал простую вещь: защищайте свои системы, аварии случаются неожиданно.

Вот здесь хорошо видно, почему AI-агенты требуют другой дисциплины безопасности.

Пока модель отвечает в чате, ошибка остаётся текстом. Неправильный совет, плохой код, странное объяснение.

Когда агент получает доступ к файловой системе, терминалу, проектам и настройкам, ошибка уже может стать действием.

Удалить папку. Перезаписать конфиг. Сломать окружение. Почистить не тот каталог. Запустить команду шире, чем нужно.

Для таких режимов нужны скучные инженерные вещи: sandbox, backup, лог действий, подтверждение опасных команд, минимальные права под конкретную задачу.

AI-агент может быть полезен. Но полный доступ к рабочей машине должен выдаваться так же осторожно, как права администратора живому человеку.

Ассистенту достаточно прав на задачу. Всё лишнее однажды может стать потерянными файлами.

#ai #openai #gpt56sol #macos #безопасность #aiagents #инженерныйвзгляд