Surge AI — "воспитатели" для больших моделей

Недавно наткнулся на интервью Эдвина Чена, основателя Surge AI. Интересно слушать человека, который пытается "воспитать" ИИ не как набор весов и датасетов, а как будто это ребёнок: с опытом, ценностями, пониманием, что хорошо, а что плохо. Surge AI вообще появился из идеи, что крупные лаборатории слишком зациклены на голых метриках, а чтобы двигаться дальше, нужно создавать более "человеческие" среды обучения. У них даже миссия сформулирована необычно - to raise AGI with the richness of humanity: curious, witty, imaginative, and breathtakingly brilliant. "воспитать AGI с богатством человечества: любознательного, остроумного, творческого и потрясающе гениального."

Немного пафосно, но в их контексте уместно.

Чен критикует гонку за лайками в рейтингах моделей. По его мнению индустрия всё больше делает ИИ, который старается понравиться, а не сказать правду. Мысль понятная: если модель учится под дофамин (самый яркий пример Sora), а не под объективность, то мы вряд ли скоро увидим ИИ, который реально помогает лечить рак или решать другие глобальные проблемы человечества. У него довольно сдержанный прогноз про AGI - полноценного AGI в ближайшие десять лет точно ждать не стоит. Он поясняет,что разница между 80 %, 90 % и 99,9 % качества это пропасть. И каждый следующий шаг занимает годы.

Компания за 4 года дошла до выручки свыше $1 млрд при штате меньше сотни человек и без внешних инвестиций, c самого начала были прибыльными. В среднем около $10 млн на сотрудника. Чен уверен, что скоро появятся компании, где такая же выручка будет на 10 человек .

• Работают с узкопрофильными экспертами: юристами, врачами, учёными, лингвистами, людьми с опытом - не просто краудсорс.
• Платформа охватывает десятки языков и культур, ИИ "обучают" так, чтобы он понимал нюансы, а не просто текст.
• Cпециализируется не только на простых задачах (текст, перевод), но и на сложных: модерации контента, этике, RL‑окружениях, согласовании поведения ИИ с ценностями.