ИИ проверяет медкарты. А кто проверяет ИИ? 🩺🤖 Идём дальше по технике безопасности.
Долго бьемся над повторкой 🤯 Один из инструментов — карты. Сначала по старинке: выборочно проверяли около 10% медкарт в месяц. Силами своими и внешних экспертов.
Работает? Плохо: много человекочасов без полного покрытия (как со звонками), результаты слезные.
Начали переговоры с известным на рынке подрядчиком Х. 70 000 ₽ — и безлимитное количество карт/мес. Выглядит заманчиво. В портфолио — крупные игроки рынка, модель разворачивается локально, под каждое направление подготовлены грамотные наборы промптов. Вроде бы всё, что доктор прописал. Но. «С персональными данными не работаем. Чистите карты и передавайте нам на проверку». 🤔вопросики к инфобезу
Потому что очистить медицинские карты от ПД — это не галочку в чек-листе поставить. Это отдельный проект, который нужно реализовать силами МИС-разработчиков. А мы ведь хотели автоматизировать проверку карт, а не организовать ещё один проект по подготовке данных для автоматизации проверки карт 😁 К счастью, наши МИСовцы активно развивают ИИ внутри собственного контура. В итоге сбили цену и остались "дома" в полном объеме — все карты под ежедневным контролем главного врача.
Спустя пару месяцев, мы узнаём об утечке у подрядчика Х ☹️ По сообщениям об инциденте, данные перехватили при передаче и на их основе собрали пд из источника.
И вот тут хочется остановиться. Мы ведь не просто выбираем инструмент, который быстрее проверит документ. Мы выбираем, кому доверить данные пациентов.
Чем глубже я погружаюсь в тему ИИ и пд, тем больше думаю: ❗️Если что-то вызывает подозрения — лучше спросить прямо. Где и какая развёрнута модель? Кто имеет доступ к данным? Используется ли шифрование или какие меры по инфобезу предприняты вообще? Есть ли третьи лица, которым подрядчик передает пд? Лучше, чтобы и в договоре это всё было. Не стесняйтесь задавать неудобные вопросы его до подписания, а не после инцидента. ❗️Ответ на вопрос — ещё не конец истории. Особенно если вам уверенно ответили, что всё безопасно. Интересно не только то, что вам скажут, но и то, чем это подтверждается и какие последствия наступят, если реальность окажется другой. А вот что дальше будет с этой историей и её последствиями — очень интересно. Наблюдаем.
ИИ открывает невероятные возможности. Но чем больше данных и полномочий мы ему отдаём, тем больше наша ответственность на этой новой кухне.
