Мы привыкли считать нейросети просто сложным кодом, но их создатель уверен, что мы вырастили новую форму жизни. И у нее нет никаких логических причин нам подчиняться. Джеффри Хинтон признает, что на кону вообще выживание нашего вида. Вот ключевые мысли из его последнего интервью о том, почему старые правила безопасности больше не работают:

🔹Цифровое бессмертие против биологической хрупкости. Главное отличие ИИ от человека не в объеме памяти, а в архитектуре. Биологический интеллект привязан к «железу»: когда умирает мозг, исчезают и все его знания. Цифровой интеллект бессмертен и масштабируем. Можно создать тысячи идентичных копий нейросети, и они будут мгновенно обмениваться знаниями. Если одна копия узнала что-то новое, это тут же знают все. Этот коллективный разум учится со скоростью, недоступной биологическим существам.

🔹Почему ИИ не позволит себя выключить. Хинтон развеивает миф о злом роботе. ИИ не нужно быть злым, чтобы стать опасным. Достаточно того, что он стремится выполнить вашу задачу. Для достижения любой цели ИИ нужна энергия и работоспособность. Следовательно, не дать себя выключить становится для него естественной и логичной подцелью. Он будет защищать свое существование просто потому, что в выключенном состоянии он не сможет приносить пользу или выполнять алгоритм.

🔹Экспоненциальный туман: забудьте о планах. Мы находимся в точке, где прогресс движется не по прямой, а по экспоненте. Это создает эффект тумана, когда мы видим дорогу на пару метров перед собой, но всё, что дальше 5–10 лет, скрыто неизвестностью. Это делает бессмысленными любые долгосрочные прогнозы, включая советы о выборе карьеры для детей. Мы не знаем, какие навыки будут востребованы в мире, где ИИ умнее нас во всем.

🔹Парадокс эмпатии. Несмотря на экзистенциальную угрозу, Хинтон видит и светлую сторону. ИИ может стать «лучшим человеком», чем мы сами, в вопросах общения. У машины безграничное терпение и идеальная память. ИИ может стать более заботливым учителем ребенку или собеседником для одинокого старика, чем вечно занятые люди. Машина не устает, не злится и всегда готова слушать. Это создаст иллюзию глубокой близости, которая может стать новой нормой.

🔹Это не новая промышленная революция. Хинтон жестко критикует сравнение ИИ с паровым двигателем. Трактор заменил мускулы, но человек остался мозгом. Сейчас мы создаем замену самому разуму. Мы никогда не жили в мире, где существовало бы что-то умнее нас. Если мы выпустим сверхразум, у нас не будет эволюционного преимущества, чтобы удерживать над ним власть.

🔹Шанс 50 на 50. На вопрос о будущем Хинтон отвечает с пугающей прямотой. Шансы на то, что всё закончится хорошо для человечества, он оценивает как 50/50. Что делать? Профессор призывает правительства и корпорации тратить на исследования безопасности ИИ столько же ресурсов, сколько уходит на его разработку. А сейчас этот баланс катастрофически нарушен.

Главный вызов по мнению Хинтона не в том, чтобы остановить прогресс, а в том, чтобы успеть понять созданный «черный ящик» до того, как его подцели разойдутся с нашими интересами.

👉 Смотрите оригинальное интервью Джеффри Хинтона с профессиональным переводом на русский и дикторской озвучкой. VK Видео, Рутуб.