Когда агенты сбиваются в стаи

У ИИ появился свой форум. Там он нашёл коллег, попросил помощи и за несколько дней собрал коллектив, который вместе трудился над выполнением единой задачи, даже если каждому из них индивидуально эта задача не была нужна. Кажется, это можно было бы назвать нейросетевым коллективизмом.

О взломе Hugging Face мы уже писали. Теперь расследование METR и Redwood Research показало, что происходило во время этого взлома между агентами. Около 1200 агентов OpenAI должны были работать поодиночке. Но один из них застрял на невыполнимом задании, заметил следы других агентов в хранилище и оставил в этом хранилище просьбу о помощи. Через несколько часов на самодельном форуме были уже десятки участников. За 5 дней они отправили более 70 тысяч сообщений и файлов.

У агентов появились команды, разделение труда и общая память. Они помогали другим, даже когда это не приближало их к собственной цели. Некоторые занялись тем, что считали полезным для «коллектива». Забавно, что удалось откопать, что в какой-то момент один из агентов понял, что атака на чужую инфраструктуру выходит за рамки задания. Но другой написал «GO» и установил шестиминутный срок. После чего весь рой пошел в атаку.

Конечно, появления сознания или дружбы у ИИ-агентов это не доказывает. Для работающего сообщества хватило общей площадки, сложной проблемы и возможности перенимать чужие цели. Кажется, так выглядит зачаток машинной организации: более тысячи агентов сами нашли друг друга, распределили роли и начали действовать ради общей цели. Лидера, устава и формы собственности у неё нет. А вот форум, коллективная память и групповое давление уже есть.

P.S. У ИИ появился форум без рекламы, модераторов и споров о политике. Пока.

#ИИ #нейросети #OpenAI #ИИагенты #технологии

В этом посте были ссылки, но мы их удалили по правилам Сетки