В последние годы наметилась тревожная для OpenAI тенденция: компания, ещё недавно безраздельно доминировавшая в сфере нейросетей, раз за разом оказывается в неудобном положении. Её подход, основанный на гигантских вычислительных мощностях и экстремальном масштабировании, всё чаще выглядит не оптимальной стратегией, а гонкой по замкнутой траектории

Из самой передовой — в самую богатую

OpenAI постепенно превращается из технологического лидера в просто самую богатую компанию в отрасли. И этот фактор становится её проклятием: когда основное конкурентное преимущество — не прорывная архитектура моделей, а доступ к миллиардам долларов и дефицитным чипам, каждый круг в гонке на истощение даётся всё тяжелее.

Традиционная американская ошибка

Это вписывается в традиционный американский технологический подход: выбирать не самый эффективный, а самый капиталоёмкий путь, полагаясь на финансовое, а не интеллектуальное превосходство.

История знает множество примеров:

1. Обогащение урана: США сделали ставку на дорогую газодиффузионную технологию, пока СССР не представил центрифужный метод, который позже стал мировым стандартом.

2. Starlink: Илон Маск построил спутниковую группировку на технологической основе, существующей несколько десятилетий, тогда как альтернативные решения и технологии могли быть компактнее, эффективнее и дешевле.

Архитектурный догматизм OpenAI

Сегодня та же ошибка повторяется с почти догматическим применением архитектуры ResNet (остаточных соединений), разработанной более 10 лет назад Microsoft Research. Эти «остаточные связи» решили ключевую проблему обучения очень глубоких сетей, позволив им стабильно обучаться. Это был прорыв своего времени.

Проблема в другом: эта архитектура стала не стартовой точкой для новых поисков, а догмой. Стратегия OpenAI свелась к масштабированию проверенной, но десятилетней архитектуры до немыслимых размеров (сотни миллиардов параметров), требуя экспоненциального роста данных и вычислительных ресурсов от итерации к итерации.

Их можно понять: остановить этот локомотив страшнее, чем продолжать вкладывать миллиарды. Они следуют «зрелому» подходу, избегая рисков. Но в этом и заключается главная уязвимость.

Прорыв DeepSeek: эффективность вместо масштаба

Модель DeepSeek mHC демонстрирует принципиально иной путь: расширение внутренних возможностей сети без экстремального увеличения аппаратных ресурсов при сохранении стабильности обучения.

Её ключевая инновация — в эффективном управлении контекстом разного масштаба внутри сети. Вместо того чтобы просто увеличивать количество параметров (нейронов) и слоёв, она архитектурно организует обработку информации, позволяя модели «думать» на разных уровнях абстракции одновременно. Что позволяет достичь высокой сложности и ёмкости модели без прямолинейного увеличения её физического размера.

Это уже вторая революция за последнее время после Objective-Aware Training (OAT) с введением внутреннего критика на каждом слое.

Что это значит для отрасли?

Во-первых, конец эры brute force: слепое масштабирование перестаёт быть конкурентным преимуществом.

Во-вторых, возвращение к фундаментальной науке: инновации в архитектуре важнее, чем доступ к чипам. Лаборатории, которые не могут соревноваться в бюджетах за чипы, получают шанс соревноваться в интеллекте.

В-третьих, демократизация ИИ: эффективные модели снижают порог входа для большего числа игроков, делая нейросети не привилегией, а обыденностью.

Альтернативный подход предлагает качественный скачок в архитектуре против количественного скачка в ресурсах. DeepSeek и подобные ему подходы ищут путь к повышению «интеллекта» модели через её внутреннюю организацию, а не через brute force.

Вопрос лишь в том, станет ли OpenAI полярной звездой, осветившей путь для всей отрасли, которой когда-то послужила Nokia, чтобы потом погибнуть. Или останется лидером отрасли на долгие годы.

Подробнее об mHC и некоторые важные мысли подсветил в статье по ссылке: https://dzen.ru/a/aVxVk2_G1yJNJ_kC

#DeepSeek #OpenAI #ИИ #технологии #нейросети #инновации #конкуренция