Она писала Claude как в личный дневник. Дневник прочитал сотрудник Anthropic, а потом к ней домой приехала полиция.

Это история жительницы Флориды. По данным следствия, 26 сентября она написала чат-боту, что "расстреляет" офис шерифа. На следующий день добавила, что достала новое оружие. Системы безопасности пометили переписку, сотрудник ее проверил и компания сообщила в полицию. Женщину задержали, суд назначен на ноябрь. Про дневник она сама потом рассказала следователям.

Политика Anthropic это допускает: данные передают властям, если есть угроза жизни или здоровью.

Угрожать в чате ты вряд ли будешь. А вот вставить туда кусок ТЗ, выгрузку из CRM, резюме кандидата или протокол совещания легко. В России такая история уже закончилась судом.

Директора по продажам московской инженерной компании уволили за разглашение коммерческой тайны. По версии работодателя, она загружала служебные документы из внутренней системы в DeepSeek. Еще пересылала их на личную почту. Она пошла в суд: просила изменить формулировку увольнения и выплатить 5 млн рублей. В июле, по данным РБК известно что Бабушкинский районный суд Москвы признал увольнение законным и отказал ей в выплате 5 млн рублей.

Правило, которое я предлагаю, называется светофором данных: перед отправкой разложить данные по трем цветам. Я показывал его в апреле на Промышленном конгрессе в Экспофоруме, на сессии по безопасности ИИ. Разбирали там теневой ИИ. Люди несут документы в публичные чаты, когда на работе нет нормальных инструментов. Их можно понять.

Зеленое. Открытая информация: публичная документация, статья, учебная задача, твой собственный текст без чужих данных. Отдаешь как есть.

Желтое. Рабочие документы, которые компания разрешает передавать внешнему сервису после маскировки. Убираешь имена, суммы, названия компаний и систем. Проверяешь, не осталось ли секретов или деталей, по которым можно узнать человека.

Было: договор с ООО Вектор, лимит 2 млн, менеджер Иванова. Стало: договор с клиентом категории А, лимит X, роль менеджера. Имена и сумму заменили, смысл задачи сохранился.

Красное. Персональные данные клиентов и сотрудников, пароли, ключи доступа, коммерческая тайна и все, что под NDA. Не отдаешь совсем.

Отдельный случай для аналитиков и разработчиков: Swagger. Публичное описание API может быть зеленым. Во внутреннем файле могут быть адреса серверов и схемы данных, а в примерах запросов — реальные токены. Для задачи оставь один нужный метод и связанные схемы. Убери внутренние адреса и токены, данные в примерах замени выдуманными. Затем проверь, разрешено ли передавать сами схемы и описание метода. Если они конфиденциальные, фрагмент остается красным.

Если сомневаешься с цветом, есть проверка. Разрешено ли передать этот текст внешнему сервису? Как есть: зеленое. Только после маскировки и проверки оставшихся данных: желтое. Передавать запрещено: красное, в публичный чат не идет.

Этот же светофор разбираю с группой, которая собирает своих ИИ-помощников: https://ineverov.ru/index.html#club

#ИИ #безопасность #данные #аналитика #АналитикНаБалтике #it Ваш Аналитик на Балтике 🌊

Буду проверять - 💜 Перестраховка - 😡