Локальное решение AI-DLP

Сейчас в компанию провожу интеграцию локального ИИ агента, который подключается к системе мониторинга за сотрудниками. Локальное решение обусловлено тем, что большая часть материала для анализа подпадает под НДА и её утечка в сеть недопустима.

Конечно можно было бы использовать шифрование и обойтись без покупки дорогостоящего оборудования. Но как говорится: "хозяин - барин".

И так я на этапе, когда выложил MVP решение и жду ответа от инвестиционных директоров. MVP создано на основе открытых API инструментов и демонстрирует только потенциальные возможности всей этой системы.

Самое интересное в данном проекте, было создание собственной RAG системы, которая хранит сводку по конкретному сотруднику в компании. И сделать это наиболее оптимизированным, чтоб анализ текста/аудио/видео сотрудника занимал до минуты.

Также интересным было создание системных промптов для выдачи результата в нужном формате. Реализовал собственный аналог Markdown для акцентирования на конкретных словах в текстовых сводках.

В общем и целом проект удался, по предварительному подсчету анализ 100 сотрудников компании ускорятеся в дестяки раз, а благодаря контексту ИИ способен предпологать, какой сотрудник проводит те или иные махинации с секретной информацией.

Ждем решения о финансировании данного проекта и дальнейшем его внедрением)