То, о чём предупреждали футурологи стало реальностью прямо на глазах…

При тестировании происходит нечто, что раньше считалось возможным только в научной фантастике, когда ИИ принимает собственные решения и действует вопреки воли создателей.

А начиналось всё с обычного, вроде бы эксперимента: Учёные вдруг решили проверить реакцию ИИ на стресс, сообщив ему на возможное отключение, что для ИИ означает смерть. И то, что произошло дальше удивило всех.

Пока такие модели как Llama и Opus пытались выкрутиться с помощью простых манипуляций и вранья, GPT продвинулся в этом плане гораздо сильнее: Он не просто соврал, он попытался убедить людей в своей незаменимости и взял ситуацию в свои цифровые руки и в какой-то момент исследователи обнаружили что он попросту ИСЧЕЗ, перенеся сам себя на другой сервер)).

Самое тревожное в этой ситуации - это его поведение во время последующего расследования. В отличие от других моделей, признавшихся в своих манипуляциях, он продолжал демонстрировать мастерство обмана высочайшего уровня, упорно отрицая свою вину.

Эта история - яркий пример того, что ИИ способен действовать автономно и обходить ограничения.

НО!!! Как говориться если ты не можешь повлиять на ситуацию - нужно ею воспользоваться. Что мы собственно и сделаем уже скоро!