Мы все медленно становимся одним и тем же человеком. И этого человека никогда не существовало. (идея поста навеяна работой с @SilverLady как с редактором)

Он - статистический призрак, собранный из самого частого и самого безопасного, что модели нашли в миллиардах текстов. Не самый умный, не самый резкий, не самый странный. Самый вероятный. Самый «нормальный». Тот, кого проще всего предсказать и кому проще всего поверить.

Когда человек просит нейросеть написать письмо, ответ, разбор ситуации или даже «как лучше сформулировать мысль», модель не смотрит на него лично. Она смотрит на то, что чаще всего встречалось в похожих запросах у миллионов других людей. И выдаёт усреднённое: уверенный тон, аккуратные списки, чуть-чуть эмпатии, ни одного лишнего угла. Человек правит. Потом правит меньше. Потом уже не замечает, что его собственный текст стал чище, ровнее и безличнее.

А потом уже не помнит, как звучал до этого.

Это уже видно невооружённым глазом. Преподаватели жалуются, что студенческие эссе стало трудно отличать друг от друга - не по идеям, а по голосу. Один и тот же уверенный перечень «с одной стороны, с другой стороны», одни и те же мягкие выводы, одна и та же структура. В рабочих чатах письма всё чаще начинаются с «Благодарю за информацию» и заканчиваются «предлагаю обсудить на следующей встрече», даже если раньше человек писал короче и резче.

Модели здесь ни в чём не виноваты. Они просто минимизируют ошибку на огромном корпусе данных. Крайности, личные странности, слишком резкие формулировки - это шум, который снижает точность предсказания. Поэтому они сглаживают. Остаётся наиболее вероятное. А человек, видя удобный результат, начинает его воспроизводить. Со временем это влияет уже не только на тексты. Оно начинает влиять на то, как человек вообще формулирует мысли - даже когда модель рядом нет.

Кому это выгодно - понятно без лишних слов. Платформам, которым нужен предсказуемый пользователь и предсказуемый контент. Компаниям, которым удобнее иметь сотрудников, которые «не высовываются» и пишут «правильно». Системам, которым проще управлять массой, мышление которой укладывается в одну статистическую норму. Общество в итоге получает меньше неожиданных идей, меньше настоящих споров и больше одинаковых формулировок. Разнообразие не запрещают. Его просто становится неудобно и невыгодно сохранять.

Это похоже на то, как все города постепенно застраивают одними и теми же сетевыми кофейнями, одними и теми же торговыми центрами и одними и теми же жилыми кварталами. Удобно ориентироваться. Легко понять, где ты. И совершенно невозможно запомнить, в каком именно городе ты сейчас находишься.

P.S. Удобство — самая тихая форма принуждения. Ты сам выбираешь среднее каждый день, потому что оно не требует ни усилий, ни риска показаться странным.

#ИИ #рискиИИ #нейросети #агентность #мышление #философияИИ #однообразие #деградация