ИИ-агент подключили к тринадцати базам компании. Первый вопрос, который встал — не «какая модель», а «кто и что теперь может узнать».

Это реальный проект, не демонстрационный кейс. Компания хотела ИИ-агента, который отвечает сотрудникам на обычном русском языке, поднимая данные из тринадцати внутренних баз — от кадров до бухгалтерии. Идея хорошая: меньше времени на поиск информации, быстрее ответы клиентам и коллегам.

Но как только агент получил доступ к базам, всплыла проблема, о которой обычно не думают. Раньше, чтобы узнать зарплату коллеги, нужно было получить доступ в бухгалтерию — барьер держался сам по себе, просто потому что данные лежали в разных системах с разными правами. Агент, который умеет читать все базы, этот барьер снимает: достаточно спросить его на естественном языке.

Что я сделал

Я отвечал за то, чтобы ИИ-агент не расширил фактический доступ к данным сверх того, что у сотрудника уже был. Построил многослойную защиту, где каждый слой закрывает свой класс риска: ролевую модель, запреты на уровне кода (а не просто на уровне интерфейса), детектор подозрительных обращений, контур контроля стоимости запросов и журнал аудита. Отдельно разделил технические учётные записи, через которые агент подключается к базам, от учётных записей людей.

Ключевой тезис проекта: внедрение ИИ над корпоративными данными — сначала проект по управлению доступом, и только потом про сам ИИ. Модель можно поменять, а вот если права раздали неправильно один раз — это уже утечка, которую не отменить.

Результат: было → стало

• Утечки персональных данных через ИИ-контур: было риск открыт → стало ноль случаев • Зарплатные базы: было доступны косвенно → стало закрыты для всех ролей • Наборы прав сотрудников: было 56 → стало 10 • Фактический доступ к кадрам и бухгалтерии после внедрения: не расширился • Стоимость обращения к агенту: было непредсказуемая → стало предсказуемая, около трёх долларов за пятьдесят содержательных запросов

Отдельно порадовал побочный эффект: наведение порядка в правах доступа ради безопасного ИИ-агента попутно решило проблему, которая жила в компании независимо от него — переусложнённую и непрозрачную систему прав.