У OpenAI есть люди, читающие чужие переписки с ChatGPT

Журналисты выяснили, что OpenAI нанимает сотни подрядчиков для проекта под кодовым названием Project Lily. Люди получают реальные запросы пользователей ChatGPT, а иногда и целые диалоги, после чего оценивают ответы модели и объясняют, как их можно улучшить. Среди задач – сделать ChatGPT менее угодливым и не давать ему изображать из себя человека.

Перед передачей диалогов OpenAI прогоняет их через фильтр, который должен удалить чувствительные данные. Компания признаёт, что иногда удаляется не всё. Журналисты говорят, что видели такие примеры, когда готовили расследование.

Сама OpenAI подтверждает, что переписки пользователей ChatGPT могут использоваться для улучшения моделей, если в настройках включена соответствующая опция.

https://www.404media.co/inside-project-lily-the-humans-reading-your-chatgpt-chats/