Gemini 4 Argon нашла критическую уязвимость в медицинском ПО
По данным Google, ошибка раскрывала чувствительные персональные данные в ПО, которым пользуются больницы по всему миру. Компания утверждает, что предыдущие ведущие ИИ-модели её пропустили.
Argon уже использует компания Wiz в программе Scan for Good. Там бесплатно проверяют критическую инфраструктуру, включая больницы. Исследователи подтверждают серьёзные находки и передают информацию затронутой организации.
Google заявляет, что модель обучена самостоятельно находить, проверять и исправлять уязвимости. Но в медицинском кейсе анонс описывает находку. Результат исправления этой конкретной ошибки не приведён.
Я бы сохранял такую находку в виде автоматического теста. В тестовой среде он должен воспроизвести раскрытие данных на старой версии ПО, а после исправления подтвердить, что этот способ больше не работает.
Затем этот тест можно запускать при каждом обновлении медицинского ПО. Найденный способ раскрытия данных становится конкретной проверкой, которая помогает поймать возвращение той же ошибки.
