Когда ChatGPT начинает говорить лишнего
ChatGPT снова в центре внимания. Пользователи сообщают о странных сбоях: нейросеть начала подмешивать в ответы чужие данные. В соцсетях пишут о случаях, когда в диалоге внезапно появлялись паспортные данные, медсправки и локации посторонних.
🔹 Один из кейсов: пользователь соцсети X обсуждал AWS, но внезапно получил список ближайших заведений, а затем и чужую переписку. При попытке уточнить, модель отказалась признавать тему разговора. 🔹 Это не первый сбой. В марте 2023 баг уже открывал доступ к чатам и платежным данным. Сейчас похожая история, но масштаб и причины пока неясны. 🔹 Пока OpenAI не комментирует, но для бизнес-пользователей и команд, которые передают в GPT чувствительную информацию, это серьезный повод задуматься.
👀 Я теперь загружаю в чат только то, что готов прочитать вслух в метро. Риски больше не абстракция.
ИИ растет в возможностях, но и в уязвимостях. Не перегружайте его тем, что не должно уйти за пределы экрана.
