ИИ над данными компании: сначала доступы, потом ИИ

Агент, который читает 13 баз, отменил барьер, державшийся сам собой: чужую зарплату раньше смотрели через бухгалтерию, теперь хватает вопроса на русском.

Это реальный проект, и я выполнил его лично. Заказчик — группа компаний спецтехники, ИИ-помощник работал над корпоративными данными. На старте главный риск был не в самой модели, а в доступах: ИИ-контур стирает неудобства, которые раньше защищали данные без всякой политики безопасности.

С чем пришли

Раньше, чтобы узнать зарплату коллеги, нужно было получить доступ в бухгалтерию. Теперь достаточно задать вопрос обычными словами. Базы те же, а защитой стала лень, и ИИ её убрал. Поэтому я начал с проекта по управлению доступом, а к ИИ перешёл потом.

Что сделали

Защита многослойная, каждый слой закрывает свой класс риска. Если один слой дал сбой, остальные удерживают рубеж.

• ролевая модель: наборов прав было 56, стало 10;

• запреты на уровне кода: зарплатные базы закрыты для всех ролей, включая тех, кому «можно всё»;

• детектор обращений к персональным данным;

• контур стоимости и журнал аудита;

• разделение технических учётных записей.

Что было и что стало

• утечки персональных данных через ИИ-контур: риск был открыт, стало ноль случаев;

• доступ к кадрам и бухгалтерии: фактически не расширился;

• расширение прав по факту внедрения: не произошло;

• стоимость обращения: из непредсказуемой стала понятной, порядка трёх долларов за пятьдесят содержательных запросов.