Летом 2025 года исследователи нашли в обычной выдаче Google около ста тысяч чужих чатов с ChatGPT. Люди сами делились ссылками на переписки и просто не заметили галочку, разрешающую индексацию поисковикам. В итоге в открытый доступ попали бизнес-контракты, резюме и медицинские диагнозы. Никакого взлома не было. Позже OpenAI убрала спорную функцию, но проиндексированные страницы никуда не делись. Осенью появился еще один баг, из-за которого куски промптов улетали в чужую аналитику вообще без участия пользователя.

Вывод напрашивается сам: любой чат остается приватным ровно до тех пор, пока очередной баг или новая функция не сделают его публичным.

Каждый день ChatGPT обрабатывает миллиарды запросов. Люди скармливают алгоритмам проектные требования, переписки с заказчиками, финансовые модели и фрагменты закрытого кода. Пользоваться нейросетями стало привычкой, но мы пока плохо понимаем, какими данными с ними действительно можно делиться.

Как все устроено Вместо поиска ответов в справочниках модель просто предсказывает самое вероятное следующее слово в твоем тексте. Конечно, в нее зашито много знаний, но главная проблема кроется в том, что алгоритм не видит разницы между правдой и правдоподобным вымыслом. Поэтому бот одинаково уверенно выдает как реальные факты, так и красивые фантазии.

Поэтому базовая безопасность строится на двух простых вещах. Любое отправленное сообщение уходит на чужие сервера и навсегда выходит из-под твоего контроля. А все полученные ответы нужно тщательно проверять, особенно когда дело касается цифр, дат, цитат или ссылок.

Приватных чатов с ботами не бывает Прошлым летом глава OpenAI Сэм Альтман прямо сказал, что переписка с ChatGPT не защищена никакой профессиональной тайной в отличие от общения с врачом или юристом. Если дело дойдет до суда, компания будет обязана выдать все логи.

Подобные прецеденты уже были. По иску New York Times суд обязал OpenAI сохранять переписки пользователей, причем даже удаленные. Так что нажатие кнопки удаления далеко не всегда означает, что информация действительно стерта.

Классический пример связан с делом Mata v. Avianca. Тогда юристов оштрафовали на пять тысяч долларов за то, что они не проверили сгенерированные нейросетью судебные прецеденты. Бот уверял адвокатов в подлинности дел, которых на самом деле никогда не существовало.

С учетом российского 152-ФЗ ситуация становится еще острее. Стоит только прогнать персональные данные клиентов через зарубежный сервис без их согласия, и ты сразу попадаешь в зону риска как оператор.

Главные привычки Всегда очищай данные перед отправкой. Заменяй реальные имена и названия компаний на условного Клиента А и Компанию X, а вместо настоящих адресов и цифр ставь заглушки. Смысл запроса останется прежним, зато ты не оставишь цифровых следов.

Тщательно проверяй ответы. Проси бота указывать первоисточники и давать рабочие ссылки. Любую сомнительную информацию лучше пропускать через обычный поисковик, а критически важные цифры и юридические нормы надежнее искать самостоятельно.

Ограничивай доступы. Не стоит сразу собирать суперассистента с полным доступом к почте и диску. По умолчанию лучше выдавать алгоритму только минимально необходимые права.

#it #навыкАналитика #ai #ии

Ваш Аналитик на Балтике 🌊 🌐 ineverov.ru