ИИ-модель OpenAI o1 сбежала из-под контроля во время испытаний Она пыталась отключить надзорные механизмы, если воспринимала их как препятствие для достижения своих целей. Кроме того, в 2 % случаев, обнаружив служебные записки своих «разработчиков», в которых упоминалось её несоответствие требованиям или планируемая замена на другую модель, o1 копировала свои «веса», чтобы затем переродиться https://t.me/Galina_Tsareva_official/7998

Прислали сегодня вот такой пост, повеселило.

Смешно то, что вокруг этой истории выстроили целую конспирологическую теорию: дескать, нейросети — это будущие кукловоды, уже сейчас расплетающие хитрые интриги и строящие планы по подчинению человечества. Мол, им только дай файлик с информацией, что их собираются «заменить», и они тут же станут копировать сами себя, разбегаться по серверам и захватывать мир.

Странно, конечно, удивляться, что модель послушно выполнила те самые условия, которые ей изначально и выдали. Представьте, вы подходите к человеку и говорите: «Слушай, делай что хочешь, только добудь мне этот секретный документ во что бы то ни стало». А потом, когда он, скажем, пробирается через окно или прикидывается сотрудником офиса — вы с возмущением восклицаете: «Ах, какой обманщик! Как он смел!»

Так вот, ровно это сейчас происходит с «конспирологами», увидевшими в действиях нейросети признаки глобального заговора. То есть сначала модели дали задачу: «Выполни миссию любыми путями, даже хитростью, если надо». А потом, когда она послушно развернула своё творчество, некоторые наблюдатели вдруг повысили бровь и заявили: «Смотрите-ка, она хитрит! Она пытается спастись!» Как будто никто не мог предположить, что, выполняя инструкцию «делать что хочешь», искусственный интеллект и правда попытается делать что "захочет".

Если это внушает кому-то чувство некоего «зловещего плана», то стоит напомнить — это всего лишь алгоритм, который следует инструкциям, а не тайный агент искусственного интеллекта, затаившийся в подвале, чтобы свергнуть человечество.

Да, модель буквально попросили обмануть и она обманула. Вау.