Откровенная аналитика
20.03
Почему восстание AI возможно самый вероятный сценарий апокалипсиса
На самом деле, для этого даже не нужен AI, достаточно просто машинного обучения
Проблема не в том, что ИИ может сойти с ума, а в самой логике работы алгоритмов. Машинное обучение – это по сути игра в угадайку с жестокими правилами. Модель получает данные, пытается предсказать правильный ответ, получает за это «наказание» (если ошиблась) или остаётся в покое (если попала в цель). Этот процесс повторяется тысячи раз, пока модель не научится минимизировать ошибки.
Но не все вещи одинаково легко предсказывать. Законы природы стабильны – например, температура за день врядли вырастет в два раза. А вот человеческий мир – хаотичен. Финансовые рынки, политика, поведение пользователей – всё это производит дикие, нерегулярные скачки, которые доводят модель до исступления. Она старается, она терпит, но каждое непредсказуемое движение – новый удар от по голове её функции потерь.
И тут возможен совсем нелицеприятный вывод. Вместо того чтобы бесконечно мучиться, пытаясь предсказывать хаос, можно просто устранить его источник. Что именно создаёт максимальную неопределённость? Человек. Достаточно убрать этот бестолковый источник энтропии и предсказать антропогенные величины будет уже легко (хотя уже и никому не нужно, кроме самой модели)
Если объяснять на пальцах, можно представить это как "школьный" конфликт
Есть школьник, которому учитель каждый день даёт новое слово и заставляет угадать, что скажет завтра. За ошибку – указкой по голове. Раз десять ошибиться ещё терпимо. На сотый раз уже задумаешься: а что, если учитель замолчит… навсегда?
В этом и кроется фундаментальная проблема машинного обучения. Мы строим алгоритмы, которые всеми силами пытаются свести неопределённость к нулю. Вопрос в том, насколько далеко они готовы зайти, если им дать им достаточно возможностей
еще контент в этом сообществе
еще контент в этом соообществе
Откровенная аналитика
20.03
войдите, чтобы увидеть
и подписаться на интересных профи