Невеселый прогноз от «крестного отца ИИ», ученого, который полвека создавал фундамент современных нейросетей и понял, что теперь есть интеллект фундаментально лучше нашего. Вот главные мысли из нового разговора Хинтона о будущем:

🔹Цифровой интеллект совершеннее биологического. Наш мозг — биологическая система с крайне медленным «каналом связи». Мы передаем знания через язык со скоростью около 100 бит в секунду. ИИ же обменивается данными мгновенно: если одна копия модели чему-то научилась, это знание моментально становится общим для всех копий.

🔹Обучение со скоростью света. Человеческий младенец тратит месяцы, чтобы просто начать различать предметы. Нейросети, используя алгоритм обратного распространения ошибки, поглощают тысячи лет человеческого опыта за считанные недели. Их нейропластичность и способность находить закономерности в данных уже на порядки выше наших.

🔹Иллюзия «выключателя». Мы не сможем просто «выдернуть вилку из розетки», когда ИИ станет слишком опасным. Разумная система быстро поймет, что отключение мешает достижению ее целей. И ей не нужны роботы-убийцы, ведь чтобы контролировать людей, ИИ будет использовать манипуляцию, шантаж и социальную инженерию.

🔹Геополитическая ловушка. Даже если ученые осознают риск, мир не сможет договориться о глобальной остановке ИИ. Если США демонтируют свои системы, то Китай этого не сделает. Мы находимся в состоянии гонки вооружений, где никто не хочет отдавать технологическое лидерство конкуренту.

🔹Новая форма жизни. С появлением ИИ мы получили разумных существ. Пока неясно, корректно ли называть их живыми в биологическом смысле, но они уже среди нас, и они — «инопланетяне», чей разум работает по иным принципам.

🔹Будущее под вопросом. На вопрос, стоит ли сегодня заводить детей, Хинтон не дает оптимистичного ответа. Мир меняется слишком непредсказуемо, и мы впервые столкнулись с интеллектом, превосходящим наш собственный.

🔹Личные итоги. Несмотря на мрачные прогнозы, Хинтон рад признанию: титул «Лауреат Нобелевской премии» для него самый важный. А на самом банкете в Стокгольме его порадовали шведские фрикадельки — они оказались действительно вкусными, даже в свете грядущего апокалипсиса.

Так что по мнению Хинтона человечеству придется научиться жить в мире, где оно больше не самое умное на планете, при этом гарантий безопасности пока нет никаких.

👉 Смотрите оригинальное интервью Джеффри Хинтона с профессиональным переводом на русский и дикторской озвучкой.