Локальное решение AI-DLP
Сейчас в компанию провожу интеграцию локального ИИ агента, который подключается к системе мониторинга за сотрудниками. Локальное решение обусловлено тем, что большая часть материала для анализа подпадает под НДА и её утечка в сеть недопустима.
Конечно можно было бы использовать шифрование и обойтись без покупки дорогостоящего оборудования. Но как говорится: "хозяин - барин".
И так я на этапе, когда выложил MVP решение и жду ответа от инвестиционных директоров. MVP создано на основе открытых API инструментов и демонстрирует только потенциальные возможности всей этой системы.
Самое интересное в данном проекте, было создание собственной RAG системы, которая хранит сводку по конкретному сотруднику в компании. И сделать это наиболее оптимизированным, чтоб анализ текста/аудио/видео сотрудника занимал до минуты.
Также интересным было создание системных промптов для выдачи результата в нужном формате. Реализовал собственный аналог Markdown для акцентирования на конкретных словах в текстовых сводках.
В общем и целом проект удался, по предварительному подсчету анализ 100 сотрудников компании ускорятеся в дестяки раз, а благодаря контексту ИИ способен предпологать, какой сотрудник проводит те или иные махинации с секретной информацией.
Ждем решения о финансировании данного проекта и дальнейшем его внедрением)