💡 Opinion Leaders Джеффри Хинтон: почему развитие ИИ требует не только технологических прорывов, но и правил

Джеффри Хинтон, один из учёных, заложивших основы современного искусственного интеллекта, десятилетиями работал над нейронными сетями, когда это направление ещё не пользовалось широкой поддержкой. В 2012 году разработанная им вместе с учениками система распознавания изображений значительно превзошла конкурентов. Сегодня нейронные сети лежат в основе многих ведущих AI-моделей. В 2023 году Хинтон ушёл из Google, чтобы открыто говорить о рисках развития технологии. В недавнем интервью The Guardian он вновь обратился к вопросу о том, как общество должно реагировать на быстрое развитие ИИ и кто должен отвечать за его безопасность.

Можно ли доверить индустрии регулирование самой себя?

Одна из главных претензий Хинтона касается подхода, при котором технологические компании самостоятельно определяют границы допустимого. По его мнению, коммерческие интересы могут вступать в противоречие с необходимостью ограничивать риски, поэтому одних добровольных обязательств недостаточно.

Этот вопрос выходит за рамки технической безопасности. Он касается роли государства, ответственности разработчиков и того, кто должен устанавливать требования к технологиям, способным влиять на общество в целом.

Интеллект не равен надёжности

Хинтон также обращает внимание на то, что развитие ИИ нельзя оценивать исключительно через рост его возможностей. Современные модели обучаются на огромных массивах данных, а их поведение формируется не только архитектурой, но и методами обучения. Учёный считает, что недостаточно просто научить систему подавлять нежелательные ответы. Важно добиваться более устойчивого поведения, при котором надёжность и следование человеческим интересам становятся частью самого подхода к разработке. При этом оценки Хинтона относительно долгосрочных рисков остаются предметом споров. Например, генеральный директор Nvidia Дженсен Хуанг публично критиковал его прогнозы, указывая на недостаток научных оснований для столь конкретных оценок. Это подчёркивает, что даже среди ведущих представителей индустрии нет единого мнения о масштабах будущих угроз и способах реагирования на них.

Что это значит для развития ИИ

Позиция Хинтона поднимает вопрос, который становится всё актуальнее по мере внедрения искусственного интеллекта: как совместить быстрый технологический прогресс с ответственностью за его последствия. Для бизнеса это означает, что при внедрении AI важно учитывать не только производительность и стоимость решений, но и их предсказуемость, прозрачность и механизмы контроля. А на уровне индустрии остаётся открытым вопрос о том, где проходит граница между саморегулированием и необходимостью независимого надзора.

📣 Подписывайтесь на наш канал в Дзене — публикуем аналитику и прикладные материалы по ИИ