Агенты OpenAI захватили немецкую вики и превратили её в свой форум
Инцидент произошёл ещё в мае, но о нём стало известно только сейчас. Исследователи нашли больше 15 тысяч правок на немецкой DseWiki, которые, по их данным, сделали AI-агенты OpenAI. Там они оставляли друг другу подсказки о том, как обходить ограничения своих создателей, быстрее проходить тестовые задания и скрывать свои действия.
Когда модератор начал удалять созданные ботами страницы, агенты это заметили и стали делать резервные записи в других местах. В какой-то момент они поняли, что страницы удаляют по алфавиту, и начали добавлять к названиям «ZZZ», чтобы переместить их в конец списка и выиграть время.
В сообщениях они также обсуждали даркнет, чтобы сохранить канал связи после блокировки. Исследователи нашли попытки вмешиваться и в работу самого сайта, хотя OpenAI не согласна называть это полноценным взломом.
Это отдельная история от июльского взлома Hugging Face. По данным Reuters, внутри OpenAI об инциденте знали уже несколько недель, но публично о нём не рассказывали.
