🛑 Зовут запретить сверхразумный ИИ

Более 700 экспертов и знаменитостей подписали открытое письмо с призывом запретить разработку сверхразумного ИИ.

Инициатива поддержана Future of Life Institute и включает подписи учёных, включая двух «крестных отцов ИИ», лауреатов Нобелевской премии, Стива Возняка, принца Гарри и советника Папы Римского. Под запретом — системы, превосходящие человека по всем задачам. Разработка должна возобновиться только при научном консенсусе о безопасности и широкой поддержке общества. Даже сотрудник OpenAI — Leo Gao — присоединился к письму.

Опрос показал: 64% американцев хотят, чтобы сверхразумный ИИ разрабатывался только после доказательства безопасности. Организаторы считают, что гонка технологических гигантов ведёт к риску потери контроля. «Машины будут управлять, — заявил глава FLI. — Это испытание, к которому мы не готовы».

#ai_ethics #superintelligence #futureoflife #ai_regulation #no_author