Посмотрел новое интервью Ильи Сутскевера

Илья – сооснователь OpenAI и один из ключевых авторов GPT. В 2024 году он покинул OpenAI основал Safe Superintelligence Inc – компанию, которая фокусируется на создании безопасного суперинтеллекта и ставит безопасность в центр своего подхода.

Кратко основные тезисы, которые выделил для себя:

1. Сейчас модели могут показаывать крутые бенчмарки, уровень IQ и решение супер-олимпиадных задач. Но плохо справляются с задачами из реальной жизни. Все из-за того, что что нынешний подход к обучению уткнулся в потолок.

2. Формула "добавим больше мощности и получим новую крутую модель" исчерпала себя. Ключевое сейчас – поиск новых моделей обучения нейронок, а не добавление мощности. Ее хватает, но она больше не дает геометрического роста производительности как раньше. Сейчас будет форкус на новых алгоритмах и исследованиях с уже существующими моделями.

3. Разница между моделью и человеком в том, что человек учится быстро на маленьком объеме данных. Мы буквально из обрывков информации воспитываемся, составляем свою картину мира и умеем сами себя корректировать. ИИ же должен съесть всю базу знаний и все равно плохо понимает контекст. Итог: человек сильно эффективней, чем машина сейчас в рамках обучения.

4. Интересная характеристика AGI – не модель, которая знает и умеет все. А модель, которая умеет учиться. Когда такое появится, скорость прогресса вырастет в разы. Причина: миллионы ИИ сотрудников, которые обучаются как люди, но быстрее. Это даст сильный эффект на рынок и профессии.

5. ИИ пока не может верифицировать свои действия. У людей есть эмоции, интуиция, чувство, что что-то не так. Это система обратной связи. ИИ же просто выполняет функцию. Без этого механизма он ненадежен.

6. Большие модели будут показывать людям постепенно, чтоб общество адаптировалось. Это как GPT, который 3 года существовал и функционировал до того, как его показали людям.

Общий нарратив похож на то, что мы идем не к большому скайнету, а к профильным ИИшкам в своих нишах. Как только сделаем, сразу реплицируем их миллонам копий и будет веселье уже. Кого заменят, кого нет. Про этот сценарий я видео летом записывал, более чем актуально.

Нам же стоит как можно лучше к этому готовиться и работать с технологией + прокачивать навыки, которые не заменят

https://www.youtube.com/watch?v=aR20FWCCjAs&t=18s

В этом посте были ссылки, но мы их удалили по правилам Сетки