Кому принадлежат двери?

Продолжаем рубрику "ИИ на книжной полке", сегодня - "Гиперион" Дэна Симмонса. Произведение, в котором даже дверь в кухню зависит от ИИ.

Люди живут на сотнях планет и переходят с одной на другую за секунду. У богачей комнаты одного дома разбросаны по разным мирам: спальня здесь, кухня за несколько световых лет, ванная с видом на чужой океан. К роскоши сверх-быстрого передвижения по Галактике привыкаешь. Правда, если сеть отключится, до кухни уже не дойти пешком.

Порталы создал ТехноЦентр - цивилизация самостоятельных искусственных интеллектов. Он поставляет технологии и консультирует правительства. На его сети держатся торговля и поездки между мирами. О планах машин люди знают немного. Но каждый новый портал делает их ещё зависимее от ТехноЦентра.

Роман вышел в 1989 году. Сейчас у нас нет межпланетных дверей, зато мы уже строим работу вокруг чужих ИИ-сервисов. Сначала модель помогает написать отчёт или разобраться в коде. Потом под неё меняют процессы, обучают сотрудников и перестают поддерживать запасные способы работы. Каждое отдельное решение выглядит разумной экономией. Но если сервис изменит правила или закроет доступ, перестраивать придётся уже всю компанию. И это будет очень болезненная и долгая перестройка, пережить которую способны будут не все.

Сегодняшние нейросети, конечно, не ТехноЦентр. Но им даже не нужны собственные планы, чтобы мы оказались в зависимости. Достаточно, чтобы удобство постепенно вытеснило альтернативы. И когда одна сторона может изменить условия в любой момент, а другая будет вынуждена их принять, какими словами, кроме "зависимость", "контроль" и "неявное управление" можно это назвать? Если завтра ИИ перестанет нас устраивать, сможем ли мы от него отказаться? Или к тому времени уже успеем устроить свою жизнь так, что даже прекращение использования ИИ окажется чьей-то платной услугой?

P.S. Разумеется, никто не станет злоупотреблять такой властью. Особенно если технически это возможно.

#ИИвФантастике #Гиперион #ДэнСиммонс #ТехноЦентр #ИскусственныйИнтеллект #ИИнаКнижнойПолке