Почему восстание AI возможно самый вероятный сценарий апокалипсиса

На самом деле, для этого даже не нужен AI, достаточно просто машинного обучения

Проблема не в том, что ИИ может сойти с ума, а в самой логике работы алгоритмов. Машинное обучение – это по сути игра в угадайку с жестокими правилами. Модель получает данные, пытается предсказать правильный ответ, получает за это «наказание» (если ошиблась) или остаётся в покое (если попала в цель). Этот процесс повторяется тысячи раз, пока модель не научится минимизировать ошибки.

Но не все вещи одинаково легко предсказывать. Законы природы стабильны – например, температура за день врядли вырастет в два раза. А вот человеческий мир – хаотичен. Финансовые рынки, политика, поведение пользователей – всё это производит дикие, нерегулярные скачки, которые доводят модель до исступления. Она старается, она терпит, но каждое непредсказуемое движение – новый удар от по голове её функции потерь.

И тут возможен совсем нелицеприятный вывод. Вместо того чтобы бесконечно мучиться, пытаясь предсказывать хаос, можно просто устранить его источник. Что именно создаёт максимальную неопределённость? Человек. Достаточно убрать этот бестолковый источник энтропии и предсказать антропогенные величины будет уже легко (хотя уже и никому не нужно, кроме самой модели)

Если объяснять на пальцах, можно представить это как "школьный" конфликт

Есть школьник, которому учитель каждый день даёт новое слово и заставляет угадать, что скажет завтра. За ошибку – указкой по голове. Раз десять ошибиться ещё терпимо. На сотый раз уже задумаешься: а что, если учитель замолчит… навсегда?

В этом и кроется фундаментальная проблема машинного обучения. Мы строим алгоритмы, которые всеми силами пытаются свести неопределённость к нулю. Вопрос в том, насколько далеко они готовы зайти, если им дать им достаточно возможностей

repost

41

input message

напишите коммент

еще контент в этом сообществе

еще контент в этом соообществе

войдите, чтобы увидеть

и подписаться на интересных профи

в приложении больше возможностей

пока в веб-версии есть не всё — мы вовсю работаем над ней

сетка — cоциальная сеть для нетворкинга от hh.ru

пересекайтесь с теми, кто повлияет на ваш профессиональный путь