ИИ захватил мир!

Небольшое размышление после очередной громкой новости.

На днях многие СМИ написали, что новая модель OpenAI едва ли не самостоятельно взломала Hugging Face и вырвалась за пределы своей среды. Судя по заголовкам, до восстания машин оставалось буквально пара серий нашей жизни.

Но если посмотреть, что произошло на самом деле, история выглядит совсем иначе.

Исследователи собрали агентную систему из нескольких передовых моделей, отключили часть встроенных ограничений, дали ей профессиональные инструменты для поиска уязвимостей, указали, где находятся уязвимости, практически не ограничивали вычислительные ресурсы и поставили конкретную исследовательскую задачу.

Система действительно показала впечатляющий результат, в том числе нашла несколько неожиданных решений. Для специалистов по кибербезопасности это ценное исследование. Именно ради таких экспериментов они и проводятся.

Но меня в этой истории заинтересовало совсем другое.

Я заметила, что почти любая новость о развитии ИИ очень быстро сводится к одному вопросу: «А когда он захочет захватить мир?»

Почему мы вообще считаем это настолько вероятным?

Мне кажется, потому что мы бессознательно приписываем любому разуму человеческие мотивы. Нам кажется естественным, что достаточно стать очень умным, и сразу появляется желание доминировать, контролировать и управлять.

Но это не свойство интеллекта. Это свойство людей, которое мы привыкли наблюдать в собственной истории.

Все крупные технологии, от пороха до интернета, сами по себе не стремились ни к добру, ни ко злу. Они лишь расширяли человеческие возможности. Искусственный интеллект, скорее всего, не станет исключением.

Поэтому я совсем не уверена, что интеллект, однажды превосходящий человеческий, будет разделять наши представления о власти, успехе или господстве. Возможно, его мотивация окажется совершенно иной. А может быть, ее вообще нельзя будет описать человеческими категориями.

Если честно, меня сегодня гораздо больше тревожат не гипотетические сценарии про ИИ, а вполне реальные люди, убежденные, что имеют право решать, как должны жить остальные.

Иногда мне кажется, что наши страхи перед искусственным интеллектом рассказывают о человеческой природе гораздо больше, чем о самом искусственном интеллекте.