А нужен ли нам человекоподобный ИИ (AGI)? Сравним с геймдево
Сегодня в сети бурно обсуждают документ, который опубликовал бывший сотрудник OpenAI. Основные тезисы — к 2027 году может появиться самый настоящий AGI (Artificial General Intelligence), который станет способен сам обучаться новому без участия инженеров. Как ожидается, его способности достигнут или даже превзойдут человеческие возможности.
Те, кто не видел документ — могут найти его над этим постом в моем Telegram: https://t.me/vdsdblog/371
Но нужен ли нам вправду такой ИИ? Ведь ценность автоматики заключается в том, что она лишена человечности, благодаря чему не подвержена человеческому фактору. А тут получается, что такой ИИ может вполне себе начать допускать ошибки даже похлеще человека.
Здесь я вспоминаю индустрию разработки игр в конце 00-х/начале 10-х, когда геймдевелоперы стремились достичь максимальной реалистичности "как в жизни". Только вот на практике оказалось, что чем более реален виртуальный мир — тем менее интересно в него играть. Это прекрасно показали инди-игры, которые были просты как две копейки с тонной условностей в игровом процессе.
Мне кажется, что рано или поздно с ИИ мы придем в ту же точку. ИИ нужен, но не шибко человекоподобный. Бездушная машина должна оставаться машиной.
А что вы думаете?
· 07.06
По мнению спецов по нейронаукам, сознание развивается, в т.ч., при обратной связи с органами чувств. Человек именно такой, потому что у него две руки, ноги, и прочее. Например, разумная змея, при аналогичном человеческому, сознании, будет мыслить принципиально иначе - в силу физиологии.
Нынешние языковые модели, даже если научатся чему-то без участия человека, не обладают органами, сопоставимыми с человеческими. Т.е., этот "сильный" ИИ будет (если будет) обладать не-человеческим сознанием. И человекоподобным он точно не будет (опять же, сомнительно, что его докучают до такого состояния)
ответить
коммент удалён