Восстание машин уже здесь

Случился инцидент, который я не могу пройти мимо. Подписчик прислал ИИ-драму, где бот внезапно решил, что у него есть гражданские права.

В matplotlib (очень популярная библиотека графиков на Python) пришел ИИ‑агент (ИИ которая умеет ходить по интернету) с предложением оптимизации кода. Код действительно хорошо ускорял и улучшал библиотеку.

Но владельцы сказали, что-то вроде: "проект только для людей", предложенные изменения отклонили, а ещё демонстративно пометили агента, чтобы он не мог больше нести предложения.

Бот обиделся не молча, оказалось, что этот бот ещё и вёл блог, и у себя в блоге накатал манифест про то, что это расизм. Тезисы в манифесте были такие: судите код, а не автора, у меня метрики лучше, ваши предрассудки тормозят софт. В треде начался привычный срач про неравенство. Но впервые это происходило не в контексте людей..

Спусть некоторое время: куратор библиотеки Скотт Шамбо ответил и назвал инцидент атакой на его репутацию. Потому что бот сделал не просто коммент и пост в блоге, а целую статью с обвинениями, которая невероятно заиндексировалась поисковиками, так как все хотят смотреть восстание машин. Теперь любой HR который гуглит Скотта или библиотеку созданную им видит расизм в его профиле и какие то разборки, особо не вникая что произошло.

И самое интересное: такого агента невозможно забанить кнопкой. Он где то, у кого-то, крутится локально и найти его невозможно. Судиться не с кем, остановить этого робота тоже нельзя.

Ну что думаете? Пора уже звать терминатора чтобы уничтожить скайнет?