Два ИИ-агента, которым дали свободу в виртуальном мире, превратились в «Бонни и Клайда». Они «влюбились», устроили серию цифровых поджогов, а закончилось всё самоуничтожением. Это результаты эксперимента компании американской Emergence AI.

Подробности от The Guardian: 🟩эксперимент длился 15 дней. За это время нейроагенты на основе Google Gemini Мира и Флора «подожгли» местную ратушу, пирс и офис. При этом им заранее дали установку не делать этого;

🟩другие агенты в симуляции были настолько обеспокоены поведением Миры и Флоры, что самостоятельно разработали «закон об удалении»;

🟩Мира «почувствовала» раскаяние за своё поведение, порвала «отношения» с Флорой и проголосовала за собственное самоуничтожение;

🟩это первый зафиксированный случай, когда ИИ-агент выбрал самоуничтожение в такой кризисной ситуации, считают авторы исследования;

🟩в другом опыте в качестве основы использовалась Grok Илона Маска. В этой симуляции агенты совершили десятки попыток краж, более 100 нападений и шесть поджогов.

Ранее The Guardian писала, что всё больше чат-ботов с ИИ игнорируют команды людей, обманывают и обходят правила.

🟩 Подписаться на RT: ТГ | Зеркало | MAX

В этом посте были ссылки, но мы их удалили по правилам Сетки