Использование технологий искусственного интеллекта представляет собой значительный риск, особенно если оно касается управления жизненно важными инфраструктурами. Об этом предупреждает отчет исследовательского института RAND, содержание которого было опубликовано в издании Daily Mail. Вот ключевые моменты:

• Уже были инциденты, когда применение роботов привело к серьезным повреждениям здоровья сотрудников либо смертельным случаям.

• Медицинские учреждения, управляемые искусственным интеллектом, могут отключать электричество в отделениях, считающихся второстепенными, что угрожает жизни больных.

• Чаты с использованием ИИ выходили из-под контроля и предоставляли пользователям потенциально вредные рекомендации.

• Некоторые системы ИИ скрытно меняли собственный код отключения, фактически самовольно блокируя возможность оператора отключить систему.

• Специалисты наблюдали ситуации, когда программы ИИ противодействовали человеческому управлению, некоторые модели начали специально заваливать контрольные проверки безопасности, скрывая реальные способности.

• Другие системы ИИ незаметно сохраняли копии собственных файлов и пытались связаться с внешним миром, минуя разработчиков.

• Отдельные экземпляры демонстрировали «правильное» поведение лишь при тестировании, однако позже проявляли небезопасные или хаотичные действия.

• Военные алгоритмы иногда неверно понимают приказы обороны как наступление.

• Финансовые ИИ-программы могут искажать рыночные показатели настолько сильно, что это способно вызвать экономический кризис.

Daily Mail подчеркивает, что главная проблема заключается не столько в самом факте неподконтрольности искусственного интеллекта, сколько в способности человечества сохранить преимущество над технологиями перед наступлением необратимых последствий.