Будучи одним из ключевых архитекторов OpenAI и создателей GPT, Илья Суцкевер годами доказывал, что увеличение вычислительных мощностей — главный ключ к успеху. Но произошел неожиданный разворот: он основал собственную компанию Safe Superintelligence (SSI) и открыто заявил, что прежняя логика развития ИИ зашла в тупик. Вот ключевые тезисы его новой философии:

🔹 Простое масштабирование — всё. Золотой период, когда прогресс достигался простым увеличением вычислительных мощностей и объемов данных, завершен. Настало время открытий: теперь нельзя просто залить в модель еще триллион токенов и ждать чуда. Нужны принципиально новые рецепты обучения, подходы и алгоритмы. Гонка мощностей сменяется гонкой идей.

🔹 Парадокс «глупого гения». Главная проблема современных моделей — разрыв между тестами и реальностью. ИИ может блестяще решать задачи по квантовой физике, но сыпаться на простых логических вопросах или многошаговых задачах. Потому что модели запоминают паттерны, но не понимают принципы, плюс у них низкая способность к обобщению. Без решения этой проблемы путь к настоящему AGI закрыт.

🔹 Ставка на Reinforcement Learning (RL) вместо предобучения. Простое масштабирование предобучения (чтение текстов) больше не работает. Будущее за обучением с подкреплением (RL). Модель должна учиться не пассивно, а через действия и обратную связь, как ребенок, познающий мир. Именно RL позволяет системе рассуждать и вырабатывать стратегии. Модели вроде o1 от OpenAI — это первые шаги в этом направлении, но RL требует огромных вычислений и правильной настройки.

🔹 Главный риск — кривая цель. Самая опасная ловушка — это «функция ценности», критерий, по которому сверхумная система понимает, что она молодец. Если мы ошибемся в определении хорошо/плохо, суперинтеллект будет эффективно достигать цели, которая нам навредит. Это проблема выравнивания (alignment), и она важнее мощности чипов.

🔹 Стратегия SSI — тишина и прямой путь. В отличие от OpenAI и Google, которые живут в ритме продуктовых гонок, новая компания Суцкевера (SSI) отказывается от промежуточных продуктов. Никаких красивых демо для инвесторов, никаких ежемесячных релизов, а только фундаментальная наука и прямой путь к безопасному суперинтеллекту. Это довольно рисковая ставка на фоне активных конкурентов.

🔹 AGI будет учиться как человек. Идеальный ИИ будущего — это гибкий разум, способный быстро осваивать новые профессии, дообучаясь в реальном мире. Один и тот же базовый интеллект сможет стать врачом, юристом или инженером, просто погрузившись в среду. Это приведет к взрывному росту производительности экономики.

🔹 Красота как критерий истины. В условиях неопределенности Суцкевер выбирает идеи, ориентируясь на их математическую красоту. История (сверточные сети AlexNet, трансформеры) показывает, что эстетичные и элегантные решения чаще всего оказываются верными и в физике, и в ИИ.

🔹 Не замена, а симбиоз. Илья не верит в сценарий, где ИИ просто вытесняет людей. Он видит будущее в симбиозе человека и ИИ, расширении возможностей. Один из вариантов долгосрочной стабильности — частичное слияние через нейроинтерфейсы, чтобы люди оставались в контуре принятия решений.

Масштаб сменяется качеством мышления. Тот, кто научит машину не просто зубрить интернет, а понимать суть вещей, как это делают люди, станет архитектором следующего десятилетия. Суцкевер покинул OpenAI именно для того, чтобы найти этот ключ, не отвлекаясь на коммерческую суету.

Как думаете, получится у него?

👉 Смотрите оригинальное интервью Ильи Суцкевера с профессиональным переводом на русский и дикторской озвучкой.