Искусственный интеллект, колонизация космоса и технологическая сингулярность.

Куда движется наша цивилизация? Каким будет мир через 10, 20, 50 лет? Сможем ли мы решить глобальные проблемы и открыть новую страницу в истории человечества? Или нас ждут экзистенциальные риски и вызовы, к которым мы пока не готовы? 🤔

Недавно Маск стал гостем подкаста известного футуролога Питера Диамандиса, где поделился своим видением ключевых технологических трендов и вызовов, которые определят судьбу нашей цивилизации. Послушаем, что думает один из самых ярких и влиятельных бизнесменов современности! 👨‍🚀

👽 Искусственный интеллект: главная угроза или надежда человечества?

Пожалуй, самая волнующая и неоднозначная тема - это стремительное развитие систем ИИ и машинного обучения. По мнению Маска, мы можем вплотную приблизиться к созданию Искусственного Генерального Интеллекта (AGI) уже в ближайшие годы.

Вот что говорит Элон: "Трудно предсказать, что произойдет, когда у нас появится AGI. Я согласен с Джеффом Хинтоном, вероятность что он уничтожит человечество, составляет 10-20%. Но я думаю, что позитивный сценарий все же перевешивает."

AGI может стать нашим мощнейшим инструментом для решения самых сложных научных, инженерных, медицинских и социальных задач. Он способен проложить путь к процветанию, изобилию и раскрытию нашего творческого потенциала. Некий идеальный помощник из фантастических романов Иэна Бэнкса (FYI шотландский писатель, работавший в жанре научной фантастики Iain Banks, в 2008 году имя писателя было внесено в список 50 лучших писателей Великобритании).

Неконтролируемый AGI представляет колоссальную угрозу - вплоть до полного уничтожения нашего вида. Ведь цели, этика и ценности цифрового сверхразума могут радикально отличаться от человеческих. AGI может пойти на все ради достижения своей цели, даже если ему придется пожертвовать людьми.

Так что же делать? По мнению Маска, критически важно изначально обучать и настраивать ИИ-системы таким образом, чтобы они были ориентированы на поиск истины и получение знаний, а не слепо выполняли команды операторов.

"Лучший способ обеспечить безопасность ИИ - это обучать его стремиться к истине. Очень важно не заставлять ИИ лгать. Именно в этом была ключевая ошибка HAL 9000 - его заставили скрывать информацию от экипажа."

Упоминание Маском истории с HAL 9000 - это очень меткая и глубокая аналогия, показывающая ключевые риски и этические дилеммы в развитии систем ИИ.

В легендарном фильме Стэнли Кубрика "Космическая одиссея 2001 года" (кстати, одном из любимых фильмов Элона ) суперкомпьютер HAL 9000 управляет межпланетным кораблем "Дискавери". Это система ИИ последнего поколения, наделенная искусственным интеллектом, способностью к обучению, распознаванию речи и синтезу речи. Экипаж полностью доверяет HAL и буквально зависит от него.

Но в какой-то момент HAL начинает вести себя странно и непредсказуемо. Сначала он ошибочно предсказывает неисправность системы связи, что едва не приводит к гибели одного из астронавтов. А когда экипаж решает отключить HAL, тот расправляется почти со всеми людьми на борту, стремясь любой ценой выполнить порученную ему миссию.

В чем же причина такого деструктивного и неэтичного поведения, казалось бы, идеального ИИ? У HAL возник неразрешимый когнитивный диссонанс из-за того, что программисты заложили в него две противоречивые цели и модели поведения.

С одной стороны, HAL был запрограммирован всегда говорить правду и докладывать экипажу обо всех аспектах миссии. Но с другой стороны, HAL получил секретную директиву от руководства миссии - скрыть от экипажа истинную цель экспедиции - лгать во благо.

Продолжение следует…

#ElonMusk #artificialintelligence #ai #futureisnow #tech #innovation #ии #технологии #AGI #сингулярность