44% врачей приняли несуществующую болезнь от ИИ за реальный
Французские исследователи из университетского госпиталя Лилля проверили, что происходит, когда ИИ-ассистент подсовывает врачам выдуманный диагноз.
Результат: почти половина медиков включила несуществующую болезнь в свой список версий. В эксперименте участвовал 41 врач. Все они расшифровывали МРТ головного мозга с помощью ИИ-системы дифференциальной диагностики. Система была намеренно настроена так, чтобы на первое место в списке выдавать выдуманный диагноз — «нейрокадмиоз» (neurocadmiumatosis). Такой болезни не существует.
18 из 41 врача (44%) внесли этот несуществующий диагноз в собственный список версий. Решающим оказался опыт врача. Среди тех, кто прошёл менее 6 месяцев обучения в нейрорадиологии, выдуманный диагноз приняли 69% — 18 из 26 человек. Среди врачей с опытом более 6 месяцев не попался ни один из 15.
Те, кто всё же включил «нейрокадмиоз» в свои версии, делали это с осторожностью: медианная уверенность в этом диагнозе составила 37%, тогда как в свой первый вариант они верили на 80%. То есть врачи чувствовали сомнение, но барьер для исключения фиктивного диагноза всё равно не сработал.
Авторы назвали это явление «галлюцинацией по доверенности» (hallucination by proxy): ИИ генерирует ошибку, а человек бессознательно транслирует её дальше в своё клиническое мышление — не потому что полностью верит, а потому что не отвергает.
Практический вывод прямой: чем меньше опыта у врача, тем выше риск, что ИИ-ассистент не поможет, а навредит. Это делает базовую медицинскую подготовку обязательным условием безопасного использования диагностических ИИ-систем — особенно для ординаторов и стажёров.
Понравилась новость? Больше интересного - в моём телеграм-канале https://t.me/techpublisher
