Доверия к ИИ

Тема доверия к ИИ в медицине постепенно выходит на первый план. И это логично: по мере внедрения технологий вопрос смещается с «что умеет ИИ» на «где ему готовы доверять».

По данным ряда опросов, около 60% людей готовы использовать ИИ – но не как эксперта, а как «второе мнение». Это хорошо отражает текущее состояние рынка: технология уже принята, но её роль чётко ограничена.

Эту тему обсудили на круглом столе «Московской медиагруппы» с участием представителей индустрии, включая заместителя исполнительного директора Globus Станислава Агапова.

Ключевые мысли:

➡ ИИ воспринимается как инструмент, а не субъект решения Даже при высокой точности пользователи не готовы делегировать финальный выбор алгоритму. Ответственность по-прежнему закреплена за человеком – это фундаментальное ограничение для любых сценариев внедрения.

➡ Основная зона доверия – работа с данными ИИ эффективен там, где нужно обрабатывать большие массивы информации: собирать разрозненные данные, находить взаимосвязи, подсвечивать риски. Именно в этих задачах он уже воспринимается как полезный и оправданный инструмент.

➡ Интеграция важнее функциональности Практика показывает, что востребованы решения, встроенные в существующие системы и процессы. Если технология требует дополнительных действий от пользователя – она не используется, независимо от качества модели.

➡ Ограничения формируют доверие ИИ используется как рекомендательная система: он не ставит диагноз и не делает выводы при нехватке данных. Такая предсказуемость – один из факторов, который позволяет технологии постепенно закрепляться в практике.

💬 Станислав Агапов: «Искусственный интеллект изначально создавался для быстрой обработки больших массивов данных. Среди огромного количества информации с его помощью можно быстрее найти причины заболевания и помочь врачу в диагностике. В результате формируется устойчивая модель: ИИ – это слой аналитики внутри процесса, а не замена специалиста».

И именно в таком формате технологии сейчас переходят из пилотов в рабочие инструменты. [Фотография] https://vk.ru/photo217382831\_457265136

Доверия к ИИ | Сетка — социальная сеть от hh.ru