💊 $62 млн. Один из лучших онкоцентров мира. Ноль пролеченных пациентов.
2012 год: IBM и MD Anderson Cancer Center запускают Watson for Oncology — систему, которая должна была рекомендовать протоколы лечения рака быстрее и точнее врача.
2017 год: MD Anderson не продлевает контракт — проект сворачивается без единого пролеченного пациента.
2018 год: STAT News публикует внутренние документы IBM. В них — случаи «unsafe and incorrect treatment recommendations». Причина: систему обучали не на реальных данных пациентов, а на ограниченном числе синтетических кейсов, размеченных в основном специалистами Memorial Sloan Kettering. На выходе — не консенсус доказательной медицины, а частное мнение нескольких врачей одной клиники, выданное за универсальный алгоритм.
⚠️ Один из зафиксированных случаев: пациенту с раком лёгкого и активным кровотечением система порекомендовала препарат с прямым black-box противопоказанием именно при кровотечении. По данным STAT News, случаев гибели пациентов от таких рекомендаций зафиксировано не было. Но сам факт всплыл не из пресс-релизов о партнёрстве с ведущим онкоцентром — а из внутренних документов IBM, которые получила независимая редакция.
2022 год: IBM продаёт актив за ~$1 млрд и полностью выходит из направления.
🔍 Это не история про «IBM облажались». Это механизм, который работает в любой отрасли и с любым бюджетом. Сильный бренд поставщика и впечатляющее демо не подтверждают, что решение сработает в вашем реальном рабочем контексте. Демо строится на отобранных сценариях — операционная практика состоит из тысяч пограничных случаев, которых в демо никто не покажет.
Разрыв между «демо работает» и «доказано независимой проверкой» — это именно там, где чаще всего теряются бюджеты на AI.
❗️ Если в контракте на AI-решение нет отдельной строки на независимую верификацию — вы покупаете обещание, а не результат.
Кто в вашей компании сегодня отвечает за независимую проверку AI-решения — если не сам поставщик?
