Исследователи из Johns Hopkins проверили, как AI пишет рабочие письма в зависимости от того, как сформулирован запрос. Оказалось, что даже при одинаковой задаче результат меняется из-за манеры речи пользователя.

В промпты добавляли конструкции, которые статистически чаще встречаются в женской речи: «может быть», «я думаю», «не мог бы ты», больше «мы» вместо «я», эмоциональные прилагательные вроде «прекрасный». После этого GPT-4, Llama, Gemma и Mistral чаще писали менее формальные и менее сложные тексты. Запросы с мужскими языковыми паттернами, наоборот, давали более длинные и формальные ответы.

При этом имя почти не влияло на результат. Исследователи могли подписать тот же самый промпт мужским именем John, но модель все равно реагировала прежде всего на стиль самого запроса. Более мягкая формулировка могла превратиться в еще более мягкое и эмоциональное письмо. В одном из примеров обычная благодарность после обработки моделью превратилась в текст про слова, которые «согрели наши сердца».

Это становится особенно заметно сейчас, когда многие вообще перестают писать рабочие тексты с нуля. Вместо этого мы отправляем модели что-то вроде «ответь ему», «составь письмо» или «напиши отклик на вакансию». И модель в этот момент берет не только факты из запроса, но и то, как именно человек формулирует мысль. Если она при этом еще и усиливает речевые особенности пользователя, итоговый текст может выглядеть уже совсем не так, как человек написал бы его сам.

OpenAI отдельно отметила, что исследование проводилось на GPT-4, который уже выведен из эксплуатации, поэтому автоматически переносить эти результаты на сегодняшний ChatGPT нельзя. Но похожий эффект исследователи увидели сразу у нескольких семейств моделей. И это, пожалуй, самая важная часть работы: речь не про одну конкретную модель, а про то, как AI в целом интерпретирует социальные сигналы внутри нашей речи.

С текстом это хотя бы можно заметить и переписать. С голосовыми ассистентами будет сложнее. Там мы все чаще будем просто говорить как обычно, а модель уже сама решит, каким должен быть итоговый ответ от нашего имени. И хорошо бы, чтобы она не достраивала за нас лишнее.