Нейросетевое ИБ

Перед тем как начнем разбирать автоматизацию процессов, стоит обратить внимание на важную тему, которая витает рядом с нейросетями, но на нее вскользь обращают внимание. Эту тему в фокусе я встречал только на одной профильной конференции по ИИ. Тема - информационная безопасность при работе с нейросетями

Думаю, что уже практически все, кто пользуется нейросетями, привыкли к простой схеме: взял таблицу/ворд и закинул на обработку нейросети, чтобы она его прошерстила, подготовила поинты, которые вам нужны, наделала презентаций. Схема заманчивая, потому что простая и с готовым результатом по вашим данным. Что может быть приятнее, когда за вас отработали огромную часть с анализом и выделением главного? Но тут из-за угла выглядывает информационная безопасность

В момент, когда вы подгружаете свои файлы, они сразу улетают на внешние серверы для обработки, тем самым все, что в них, уходит из вашего контура. Самое простое, но не самое легкое и дешевое решение - развертывание локальной нейросети на вашем сервере/компьютере или на сервере компании. В этом случае данные останутся в вашем контуре и будут обрабатываться локально у вас и никуда не смогут убежать (не берем в расчет, что ваш компьютер будет подвергаться хакерским атакам или на нем уже есть вирус)

Когда мне нужно проверить работу какой-то фичи на моем проекте или нужно обработать какой-то файл по работе (например, результаты встречи/ анализ ШР провести), то для себя выработал простые правила:

Что можно вгружать: - открытую информацию; - опубликованные материалы; - обезличенные примеры; - шаблоны документов без реальных данных; - тестовые или специально сгенерированные данные.

Что не надо загружать: - ФИО сотрудников и клиентов; - зарплаты; - телефоны, почту, адреса; - паспортные данные; - внутренние финансовые показатели; - договоры и документы под NDA; - внутренние отчёты; - коммерческие планы; - логины, пароли, API-ключи.

Что делать, когда расчеты и объем данных большой и нужно сэкономить кучу времени на обработку данных? В таком случае нужно будет поменять все данные на придуманные в основном документе - названия, цифры, отрасль и т.д., НО тут стоит помнить, что у нейросети есть память и она может все равно все это связать. Поэтому лучше использовать локальную нейросеть для такой работы

Когда работал тренером и вел тренинги по промышленной безопасности, любил начинать с фразы: "Правила безопасности написаны кровью". При работе с данными и чувствительной информацией крови не будет, но будут уже другие риски

Нейросетевое ИБ | Сетка — социальная сеть от hh.ru