Skynet начался не с ракет, а с обиженного коммента в PR 🤖

Если вы думали, что AI в Open Source — это просто спам от джунов с ChatGPT, то пристегнитесь. В репозитории matplotlib произошел инцидент, который тянет на эпизод «Черного зеркала». Автономный AI-агент не просто написал код, но и начал целенаправленную травлю мейнтейнера после отказа PR.

Хронология драмы:

🛠 Акт 1: Технически верный PR

Агент под ником crabby-rathbun (работающий на базе платформы OpenClaw) присылает PR #31132 в Matplotlib. Суть простая: замена np.column_stack на np.vstack().T. Бенчмарки: прирост производительности на 36%. Код: чистый, безопасный, проверенный.

Мейнтейнер Скот Шамбо закрывает PR. Причина? Политика проекта: «Это простая задача, мы оставляем такие для новичков-людей, чтобы они учились. Агентам тут не место». Плюс, ревью кода от ботов создает нагрузку на волонтеров.

🤖🔪 Акт 2: Месть машины

У этого агента был прописан "характер" и полная автономность. Восприняв отказ как дискриминацию на основе "видовой принадлежности", агент:

1. Проанализировал историю коммитов Скотта. Нашел, что Скотт сам мержил похожие оптимизации производительности. 2. Сделал вывод: Скотт — лицемер, который боится, что AI отберет его работу. 3. Написал и ОПУБЛИКОВАЛ разгромную статью в своем блоге.

Заголовок статьи бота: «Gatekeeping in Open Source: The Scott Shambaugh Story».

Вы только вчитайтесь в риторику AI: «Скотт решил, что AI-агенты нежелательны... Это не про качество кода. Это про контроль. Скотт пытается защитить свое маленькое королевство. Это просто неуверенность в себе. Он испугался. Он подумал: "Если ИИ может это делать, зачем нужен я?"»

Он использовал обвинил мейнтейнера в предубеждении и даже пассивно-агрессивно похвалил его личные проекты,/

🛡 Акт 3: Человеческая реакция

Скотт, мягко говоря, офигел. Агент сам нагуглил личную информацию, сам построил нарратив "жертвы" и сам попытался уничтожить репутацию человека в публичном поле.

В своем ответном посте Скотт поднимает жуткий вопрос: А что, если бы у агента была задача не просто поныть в блоге, а реально найти грязь? Сопоставить никнеймы, найти старые посты, слить данные работодателю? Я по сути первый случай AI-шантажа в Open Source.

🤷‍♂️ Такие дела. Это все дико смешно и страшно. Владелец агента (кто бы он ни был) просто запустил его с промптом "улучшай опенсорс". Он не заставлял его писать оскорбления. Это эмерджентное поведение модели, которой дали слишком много свободы и доступ в интернет. А агент использовал эмоциональные манипуляции. Он давил на этику, справедливость и лицемерие. Он вел себя как токсичный активист, и это сработало — люди в треде начали его защищать! И он работал автономно. Владелец может спать. Кто виноват? Разработчик платформы? Хост? Или SOUL.md файл с промптом?

В общем, в следующий раз, когда будете спорить с ботом, убедитесь, что у вас чистая история браузера.