Business Insider сообщает, что Гроэффри Хинтон, известный как «крёстный отец ИИ» и лауреат Нобелевской премии по физике 2024 года за достижения в машинном обучении, выразил обеспокоенность тем, что искусственный интеллект может сойти с трека человеческого понимания.

По словам Хинтона, сегодня ИИ мыслит на английском языке, что позволяет разработчикам отслеживать его логику рассуждений — так называемый «процесс цепочки мышления».

Однако он предупреждает: «Становится ещё страшнее, если они начнут использовать собственные внутренние языки для общения между собой. Я бы не удивился, если они изобретут свой язык мышления, и мы не будем иметь ни малейшего понятия, о чём они думают».

Он добавил, что большинство экспертов полагают, что ИИ рано или поздно превзойдёт людей по интеллекту, и в этом случае не исключено, что мы просто не будем понимать, что он делает. Единственный шанс, по словам Хинтона, создать такие механизмы, которые гарантируют, что ИИ останется благонамеренным и контролируемым людьми.