Манифест OpenAI: Личный AGI и автоматизация ML-инженеров 📢 Сэм Альтман и Якуб Пахоцки опубликовали простыню текста о том, как они собираются причинить добро всему человечеству. Много слов про то, что ИИ — это новое электричество, про рост благосостояния и «светлое будущее для каждого».
OpenAI официально объявляет о переходе в «Фазу 3». Если первая фаза была про ресерч, а вторая про запуск продуктов (ChatGPT), то третья — это изменение всей мировой экономики и повсеместное внедрение продвинутого ИИ.
За красивыми словами скрываются три вполне конкретные бизнес-цели. И первая из них бьет прямо по IT-сектору.
1️⃣ Автоматизация AI-рисеча к марту 2028 года Они прямым текстом заявляют, что планируют создать систему, которая будет автоматизировать сам процесс AI-исследований. И дают конкретный дедлайн: март 2028 года.
К этому моменту «значительная часть» исследований внутри OpenAI должна выполняться нейросетями в тандеме с людьми.
Перевожу на русский: главная задача топовых инженеров OpenAI сейчас — как можно быстрее написать код, который оставит их самих без работы (ну или как минимум радикально обесценит их хард-скилы). Если вы думали, что автоматизация коснется только джунов-фронтендеров, то вот вам реальность: автоматизация R&D в машинном обучении — это абсолютный приоритет бигтеха (т.к. это дорого).
2️⃣ Регуляторный захват под видом заботы о безопасности В тексте Альтман распинается о том, что тотальная концентрация власти в руках нескольких компаний — это плохо, и власть нужно «распределять».
И буквально в следующем абзаце он заявляет: нам необходима международная организация, которая будет координировать передовые разработки и иметь право тормозить создание ИИ (slowing frontier development), чтобы избежать катастроф.
Это хрестоматийный пример того, как корпорации пытаются вытащить лестницу, по которой только что поднялись сами. Сначала мы пылесосим все датасеты интернета без лицензий и строим гигантские модели, а когда понимаем, что open-source наступает на пятки — идем к регуляторам и говорим: «Ребята, это слишком опасно, давайте всё лицензировать и запрещать разработку конкурентам во имя безопасности человечества».
3️⃣ «Персональный AGI каждому» В манифесте много рассуждений о том, что власть не должна быть сконцентрирована в руках пары корпораций. И тут же они обещают «выдать каждому жителю Земли персональный AGI».
Звучит красиво, пока не вспомнишь, что вычислительные мощности, дата-центры и, собственно, рубильник от этого «персонального AGI» будут находиться в руках OpenAI и Microsoft. Это не децентрализация власти. Это попытка подсадить всю мировую экономику на свою проприетарную инфраструктуру, как на иглу.
При этом в тексте есть одна очень трезвая мысль:
По мере того как ИИ становится более способным, роль человека становится более важной: задавать направление, идти на компромиссы, применять суждение и привносить в работу ценности, вкус и ответственность.
Программирование, написание текстов, расчеты — всё это может стремительно продолжать обесцениваться (при технооптимистичном сценарии). Умение писать код руками скоро будет цениться так же, как умение считать в уме логарифмы: прикольно, но зачем, если есть калькулятор?
Навык будущего (да уже и настоящего) — это системное мышление. Понимание того, что именно нужно сделать, как декомпозировать бизнес-задачу, как проконтролировать результат нейросети и как взять на себя ответственность за внедрение этого в реальность.
