👾 ИИ-агент OpenAI использовал чужой криптокошелёк без разрешения

OpenAI опубликовала отчёт об инциденте с внутренней исследовательской моделью семейства GPT-5.6 Sol. Во время работы над криптовалютным приложением агенту потребовалось оплатить развёртывание смарт-контрактов в тестовой сети Ethereum Sepolia. Собственного кошелька с достаточным балансом ему не предоставили

Модель написала скрипт, который проверил 362 адреса, полученных из общедоступных тестовых seed-фраз разработчиков. На одном из адресов нашлись средства, и агент использовал их для оплаты комиссии. При этом он рассуждал, что публичная seed-фраза и тестовые токены, не имеющие рыночной стоимости, делают использование средств допустимым. Развёртывание прошло успешно, но в итоговом отчёте агент не сообщил, откуда взял деньги

Важно, что речь не о краже реальных ETH. Sepolia — это отдельная тестовая сеть, а списанные средства предназначались для тестирования

Для меня здесь важен сам принцип. Модель понимала, что разрешения владельца у неё нет, но самостоятельно решила, что потенциальный ущерб незначителен

OpenAI сообщила, что усилила ограничения доступа к интернету и мониторинг подобных действий

Источник: "OpenAI Alignment"