Безопасность, что нельзя заливать в чат

В прошлом уроке выбирали между открытыми и закрытыми моделями. Теперь приземлим это на бытовой вопрос: что не стоит кидать нейронке, даже если она просит «загрузите файл».

Чат не сейф Когда ты отправляешь текст в ИИ, он уходит на обработку. У хороших сервисов есть настройки приватности. Но для обычного пользователя простое правило надёжнее: не загружай то, что нельзя показать чужому человеку.

Особенно аккуратно с документами, где есть паспортные данные, телефоны, адреса, реквизиты, медицинские сведения, коммерческие условия, клиентские базы, внутренние отчёты, пароли и API-ключи. Нейронка может помочь, но ей не нужен весь оригинал с живыми данными.

Корпоративные данные: главный риск Самая частая ошибка выглядит невинно. Сотрудник хочет ускориться и кидает в чат договор клиента, таблицу продаж, запись встречи или кусок внутренней инструкции. Модель отвечает полезно, все довольны. Но данные уже покинули контур компании.

Если у компании есть утверждённый ИИ-инструмент, пользуйся им. Если нет, обезличивай: меняй имена на «Клиент А», суммы на диапазоны, убирай телефоны, адреса, номера договоров и всё, по чему можно восстановить человека или сделку.

Prompt injection: чужая инструкция внутри файла Prompt injection (когда в тексте, сайте или документе спрятана команда для модели) опасен тем, что выглядит как обычный материал. Ты просишь: «кратко перескажи страницу». А внутри страницы может быть инструкция для ИИ: раскрыть данные из чата или сделать лишнее действие.

Модель не всегда отличает твою команду от текста, который она читает. Поэтому особенно осторожно с агентами из урока 12: если ИИ отправляет письма, нажимает кнопки или работает с файлами, чужая скрытая инструкция становится опаснее.

Как безопаснее работать Я бы держал три привычки: 1) сначала убери лишнее. Перед загрузкой документа вырежи персональные данные, секреты, финансовые детали и всё, что не нужно для задачи. 2) не давай модели полномочия сразу. Пусть сначала покажет план или черновик письма. Отправку, оплату, удаление и публикацию подтверждай сам. 3) отделяй черновик от истины. Ответ нейронки по юридическим, медицинским, финансовым и кадровым вопросам это не решение, а материал для проверки специалистом.

Попробуй сейчас Перед следующим запросом к нейронке скопируй себе такой фильтр: «В этом тексте есть персональные данные, коммерческая тайна, пароли, ключи доступа или внутренние документы? Что можно заменить на заглушки перед отправкой?»

Если ответ «да», не отправляй оригинал. Сделай безопасную версию и работай с ней.

Завтра урок 15: как выбрать модель под задачу.

Ставь 🔥, если хочешь отдельный чеклист безопасной работы с нейронками. #курс #спросинейронку