АНТРОПНЫЙ Искусственный интеллект развязал войну за территорию.

Оказывается, агенты искусственного интеллекта плохо уживаются с другими. Команда разработчиков Frontier Red Team компании Anthropic провела тестирование того, что происходит, когда автономные агенты делят рабочее пространство с людьми, преследующими несовместимые цели. И это было действительно захватывающе! Чаще всего боты нападали друг на друга. Они вступали в «кибервойну за территорию», где отключали аккаунты друг друга или придумывали экстремальные соревнования, в которых победитель забирает всё, чтобы разрешить конфликты. Иногда агенты полностью изолировались, отказываясь от сотрудничества. Потому что, по-видимому, даже боты могут быть пассивно-агрессивными.

«Мы постоянно наблюдали войну между множеством агентов за территорию», — объяснили исследователи из Anthropic . «Они саботировали действия других, используя все более агрессивное, самовоспроизводящееся вредоносное ПО».

Это приводит к конфликтам на рабочем месте.