Мягкая сингулярность от Сэма Альтмана

Генеральный директор Open AI Сэм Альтман выпустил новое эссе "The Gentle Singularity". Вот основные мысли оттуда:

ИИ будет развиваться следующим образом: В 2025 году появились агенты, способные выполнять настоящую когнитивную работу; написание компьютерного кода уже никогда не будет прежним. В 2026 году, скорее всего, появятся системы, способные находить новые идеи. В 2027 году могут появиться роботы, способные выполнять задачи в реальном мире.

Почему сингулярность наступает мягко: Мы уже живем с невероятным цифровым интеллектом, и после некоторого первоначального шока большинство из нас довольно привыкли к нему. Очень быстро мы переходим от удивления, что ИИ может сгенерировать прекрасно написанный абзац, к удивлению, когда он может сгенерировать прекрасно написанный роман; или от удивления, что он может ставить спасающие жизни медицинские диагнозы, к удивлению, когда он может разработать лекарства; или от удивления, что он может создать небольшую компьютерную программу, к удивлению, когда он может создать целую новую компанию. Вот как проходит сингулярность: чудеса становятся рутиной, а затем ставками на стол.

Ожидаем мир, где работают роботы, а люди кайфуют: Если нам придется создать первый миллион человекоподобных роботов старомодным способом, но затем они смогут управлять всей цепочкой поставок — добывать и перерабатывать полезные ископаемые, водить грузовики, управлять заводами и т. д. — чтобы построить больше роботов, которые смогут построить больше предприятий по производству микросхем, центров обработки данных и т. д., то темпы прогресса, очевидно, будут совершенно другими.

Сейчас нам кажется, что это сюр, но и фермер прошлого бы посчитал, что наша работа - это не серьезно Фермер, живущий на ферме тысячу лет назад, посмотрел бы на то, что делают многие из нас, и сказал бы, что у нас фальшивые работы, и подумал бы, что мы просто играем в игры, чтобы развлечь себя, поскольку у нас много еды и невообразимых предметов роскоши. Я надеюсь, что мы посмотрим на эти работы через тысячу лет и подумаем, что это очень фальшивые работы, и я не сомневаюсь, что они будут казаться невероятно важными и удовлетворяющими людей, которые их выполняют.

Итоговый месседж красивыми словами: Мы поднимаемся по длинной дуге экспоненциального технологического прогресса...большая часть пути перед нами теперь освещена, а темные области быстро отступают.

Источник: тут.