Долгие диалоги с ИИ-системами могут менять нашу речь? Оказалось, что это не частное наблюдение, а предмет отдельного направления исследований - robotoid humanness, и его теоретическая модель точнее объясняет механизм, чем моя изначальная интуиция.

Три стадии дрейфа

Исследователи предлагают трёхстадийную модель того, как это происходит.

Сначала возникает синтетическая социальная реальность: система ведёт себя достаточно похоже на живого собеседника - с адаптивным обучением, персонализированной коммуникацией, эмпатичными репликами так, чтобы человек вступил в диалог как в обычный социальный контакт, с обычными социальными ожиданиями.

Затем происходит вычислительный захват идентичности: система строит упрощённый профиль пользователя - предпочтения, вероятные реакции, устойчивые паттерны и возвращает его как “персонализированное признание”. Это признание приятно совпадает с тем, что человек и так думал о себе, и поэтому не встречает сопротивления.

Дальше адаптивная подстройка: человек, не замечая этого, начинает презентовать себя так, как системе проще распознать и вознаградить — более шаблонно, более предсказуемо, более “машинно”.

Раньше образцом для подражания был живой собеседник с паузами, оговорками, характерными неровностями. Теперь всё чаще образцом становится система, которая таких неровностей не производит в принципе.

Исследователи называют это выравнивание по трём осям: ▫️machine legibility - читаемость для машины; ▫️machine pacing - темп, удобный для машинной обработки; ▫️machine logic - сама логика, в которой формулируется мысль.

Постепенно это выравнивание перестаёт быть инструментом общения с системой и становится способом думать вообще.

➡️ Показательно, что фиксируется этот дрейф не в экзотических сценариях с ИИ-компаньонами, а в рутинных сервисных взаимодействиях - чат-бот ретейлера, голосовой ассистент клиники, приложение-трекер самочувствия. Ни один из них не выглядит как значимое событие. Именно поэтому накопление идёт незаметно: каждый отдельный диалог слишком мал, чтобы его заметить, а сумма уже нет.

Асимметрия распознавания

Здесь находится наиболее интересный для меня практический эффект: реакция на этот дрейф различается в зависимости от опыта наблюдателя, причём различается предсказуемо.

Те, кто регулярно работает с генеративными моделями, узнают этот почерк сразу и реагируют раздражением: “опять эти ровные обороты”. Раздражение не самая приятная реакция, но она содержательна: человек знает, что видит, и может назвать источник дискомфорта.

Те, кто с моделями почти не сталкивался, реагируют иначе, смутным беспокойством без атрибуции. Текст формально корректен, но что-то не совпадает с ожиданием живой речи. Поскольку источник дискомфорта не назван, он чаще всего интерпретируется как собственная ошибка восприятия “со мной что-то не так”, а не “в этом тексте есть артефакт”.

Это асимметричное распознавание важный практический вывод: - раздражение при столкновении с машинным почерком - это форма компетентности; - необъяснённая тревога - признак того, что распознающий механизм у человека есть, но у него нет словаря, чтобы себя объяснить.

Тот же дрейф идёт дальше слов, на уровень самооценки состояния, а не только речи. В сценариях с постоянной персонализацией (трекеры энергии и сна, wellness-приложения) со временем возникает подмена: собственное “я устал” уступает место показателю системы “готовность высокая”, и человек начинает доверять чужому прогнозу больше, чем своему ощущению. Механизм тот же, адаптивная подстройка, только объектом становится не стиль речи, а самовосприятие.

💬 Можно ли удерживать различение между собственным голосом и голосом инструмента, когда инструмент используется постоянно и делает это удобно? Как вы считаете, вы способны?

#RLHF #ИскусственныйИнтеллект #AIBehaviorEngineering #КритическоеМышление #NotesOnWeights #NOW