Вчера разобрали навык. Сегодня держите памятку, которую полезно распечатать и повесить у монитора.

Главное правило звучит предельно ясно: если вы не готовы прокричать какую-то информацию в полном вагоне метро, ей точно не место в чат-боте.

❎ Что отправлять категорически нельзя: — Любые реальные ФИО, адреса, телефоны, реквизиты карт, паспортные и медицинские данные. — Биометрию в любом виде, будь то голос, фото или отпечатки пальцев. Пароль легко сменить, а лицо останется с вами навсегда. — Пароли, токены, API-ключи и строки подключения. — Закрытый исходный код, финансовые стратегии, кадровые документы и всё под NDA. — Сырые базы данных и логи с информацией живых пользователей. — Не выдавайте агентам слишком широкие права. Доступ к почте вместе с диском и возможностью выполнять действия — прямой путь к инциденту.

✅ С чем работать можно и нужно: — Обезличенные тексты, где имена и названия компаний заменены рыбой, а реальные цифры удалены. — Рутинные структурные задачи: проверить грамматику, сократить отчет, набросать структуру письма или черновик кода, разобрать сложный термин. — Поиск манипуляций в предварительно очищенном диалоге. Боту отлично дается роль профайлера. — Брейншторм и генерация креативных идей. Тут риски нулевые.

⏰ Обязательно проверяйте результат: — Требуйте первоисточники. Если бот начинает юлить или выдает битые ссылки, перед вами типичная галлюцинация. — Любые сомнительные утверждения перепроверяйте в обычном поисковике. — Цифры, налоги, даты и законы всегда ищите вручную по официальным документам. — Включайте режим красной команды: просите ИИ найти уязвимости в вашей идее и жестко ее раскритиковать.

➖ Базовые правила безопасности: 1. Промпты хранятся вечно, поэтому формулируйте запросы с пониманием, что их могут прочитать без контекста. 2. Человеческий фактор всегда остается главной уязвимостью. 3. Приучите себя использовать исключительно заглушки вместо реальных данных. 4. Обязательно отключите обучение на ваших диалогах в настройках и выберите минимальный срок хранения логов. 5. Используйте песочницы и выдавайте сервисам только самые узкие доступы к API и личным кабинетам. 6. Старайтесь не регистрировать все ИИ-инструменты на основную рабочую почту. 7. Подбирайте инструмент под конкретную задачу: чувствительные данные обрабатывайте локально, а обычные публично. 8. Режим инкогнито лишь снижает риски, поэтому не превращайте чат-бот в свалку личной информации.

Для тех, кто внедряет ИИ в команде: — Поднимайте собственный контур и ходите через API-шлюз. — Используйте локальные модели, для которых не нужны VPN и зарубежные карты: Ollama, LM Studio. — Для боевых задач по 152-ФЗ берите отечественные решения вроде GigaChat или YandexGPT или используйте локальные модели на своих серверах, чтобы данные оставались внутри страны.

А ты в каком лагере?

Ваш Аналитик на Балтике 🌊 🌐 ineverov.ru