ИИ принял неверное решение… А кто виноват?
Я часто встречаю аргумент, препятствующий внедрению ИИ. Я сдал анализы, ИИ их проанализировал и поставил неверный диагноз? Кто виноват в конкретной ошибке? Если я не знаю, кто виноват, то пусть лучше анализирует врач! Примерно такой посыл я видел в одном из ИТ-чатов. Однако, врач тоже ошибается. Возможно, чаще чем ИИ. Получается, что в случае, когда ИИ дает меньше ошибок (при равности тяжести ошибок) рационально использовать ИИ, а не врача-эксперта, игнорируя аргумент «кто виноват в этой ошибке?» Если подняться от уровня «кто виноват в конкретной ошибке» к ответственности, то в схемах с ИИ ответственность трансформируется от ответственности за отдельный диагноз к ответственности за правильность работы модели, т.е. с операционного уровня на уровень проектирования. А пока мы ждем, чтобы ИИ стал значительно точнее людей-экспертов, наиболее эффективной схемой является помощь ИИ эксперту в принятии решений. А когда дождемся, попробуем не замечать аргумента «кто виноват в конкретном случае» и использовать более рациональные способы, чем человеческая экспертиза.
P.S. - есть мнение, что с внедрением ИИ вопрос «Кто виноват?» перестает быть о конкретной ошибке и становится о том, кто управляет системой, следит за её корректностью и контролирует риски.
