Разрабатываю Prompt Shield — защита данных при работе с ИИ
Всем привет! Меня зовут Даниил, я изучаю информационную безопасность и развиваю собственный проект — Prompt Shield («Промпт-Щит»).
Идея появилась из практической проблемы: сотрудники используют ChatGPT и другие ИИ-сервисы для работы с документами, кодом и текстами. При этом в запросы могут случайно попасть персональные данные, внутренние сведения компании, пароли или коммерческая тайна.
Я решил попробовать разработать инструмент, который помогает выявлять такие данные до отправки запроса в ИИ.
Что уже реализовано в прототипе: — анализ текста и документов; — обнаружение персональных данных, реквизитов и секретов; — оценка уровня риска; — маскирование найденной информации; — журналирование событий и формирование отчётов; — веб-интерфейс и REST API.
Технологически проект основан на Python и Flask. Сейчас моя задача — развивать решение, проверять качество обнаружения и готовить его к пилотному тестированию.
Не считаю, что прототип уже заменяет корпоративные DLP-системы или полноценные AI Gateway. Наоборот, хочу разобраться, какие задачи действительно важны для бизнеса и что необходимо доработать перед внедрением.
Буду рад пообщаться с теми, кто работает в информационной безопасности, AppSec, AI Security или занимается внедрением LLM в компаниях.
Особенно интересны мнения практикующих специалистов: насколько актуальна эта проблема в реальных организациях и каким должен быть инструмент, чтобы им действительно пользовались?
