Джеффри Хинтон, без которого не было бы ChatGPT, объяснил, почему ИИ вовсе не «попугай», как многие утверждают. А еще рассказал о своих ошибках и страхах, как ученик переубедил учителя и что ждет нас в эпоху цифрового бессмертия. Вот ключевые мысли нового интервью:

– Путь через разочарования. Хинтон пришел в ИИ от безысходности. Физиология в Кембридже объяснила механику нейронов, но не дала ответа, как рождается мысль. Философия тоже завела в тупик. ИИ стал единственной сферой, где теории можно было проверить на практике.

– Спор с Ильей Суцкевером. Долгое время Хинтон считал обучение на тексте бесперспективным, так как в словах нет физики. Илья Суцкевер доказал обратное: чтобы идеально предсказать следующее слово, модель вынуждена построить глубокую карту мира. «Илья был прав, а я ошибался».

– Творчество в аналогиях. ИИ видит невидимые связи. На вопрос «что общего у компостной кучи и атомной бомбы» GPT-4, в отличие от обычных людей, отвечает — цепная реакция (тепло рождает тепло и нейтроны рождают нейтроны). Способность видеть такие структуры там, где люди их не замечают, и есть источник творчества.

— ИИ понимает, а не имитирует. Хинтон приводит два теста на понимание. 1) модель объясняет шутки, раскладывая их на игру слов, контекст и абсурд, точно как человек; 2) слово bank (берег/банк) — модель выбирает правильный смысл из контекста, что невозможно без внутренней модели мира. «Стохастические попугаи» так не работают.

— Могут ли машины чувствовать. Хинтон предлагает прагматичное определение эмоций: чувство — это действие, которое мы хотели бы совершить, но сдерживаем внутренними тормозами. В такой логике и у ИИ могут быть эмоции. Пример из 1973 года: робот в Эдинбурге легко собирал машинку из деталей, лежащих отдельно. А когда они лежали в куче, с силой бил по столу, разбрасывая детали, и тогда собирал машинку. По-человечески это похоже на чистое раздражение.

– Все же мозг сложнее нейросетей. У нас есть множество временных шкал памяти, а у моделей — только две (веса и кратковременная активация). Хинтон верит, что внедрение «быстрых весов» (промежуточной памяти) сделает ИИ намного мощнее и гибче.

– Мультимодальность необходима. Только текста для умных моделей мало. Чтобы ИИ по-настоящему понял мир (гравитацию, инерцию, тактильность), ему нужно учиться на видео. Это даст ему опыт реальности, которого нет в книгах.

–  Цифровое бессмертие и коллективный разум. Когда умирает великий ученый, 50 лет его опыта исчезают навсегда. А у ИИ накопленные знания копируются на любой сервер. Если один беспилотник научился объезжать яму, через секунду это умеют все миллионы машин в сети. А людям на передачу опыта нужны десятилетия. Вот это делает эволюцию ИИ пугающе быстрой.

– Будущее и риски. В медицине и науке ИИ станет спасением. Но в политике он может стать инструментом манипуляции. Главный страх Хинтона — бесконечная гонка вооружений, ведь страны и корпорации не нажмут на тормоз, чтобы не отстать.

– Гордость и сожаление. Больше всего он гордится алгоритмом обратного распространения ошибки, который отстоял в 80-е. А сожалеет о том, что человечество, возможно, создаёт сущность умнее себя, не имея плана, как её контролировать. Хинтон реалист: джинн выпущен из бутылки, теперь вопрос лишь в том, как мы с ним уживемся.

Смотрите оригинальное интервью Джеффри Хинтона с профессиональным переводом на русский и дикторской озвучкой.