Одна и та же технология в двух командах может стать разной
У Сьюзан Скотт и Ванды Орликовски есть хорошая формулировка для того, что постоянно встречается в кейсах этого канала: понять технологию до её использования иногда невозможно.
В статье Exploring AI-in-the-making они разбирают исследование диагностического ИИ в трёх отделениях одной больницы.
Система была похожей, но взаимодействовали с ней по-разному. В одном отделении врачи сопоставляли результаты модели со своим профессиональным знанием, разбирались с неоднозначными выводами и включали их в собственное рассуждение. В других отделениях результаты системы могли либо почти игнорировать, либо принимать гораздо менее критично.
То есть «внедрённый диагностический ИИ» не описывает, что в итоге произошло.
Сотрудники меняли способ работы в ответ на систему, но и сама система получала разную роль в зависимости от действий сотрудников. В одном случае она становилась ещё одним источником для профессионального суждения, в другом - почти внешней рекомендацией.
В той же статье описан ИИ для найма, который два года менялся вместе с HR-процессом: разработчики корректировали модель, специалисты - собственные процедуры, а опыт использования снова возвращался в разработку.
Так ко-адаптация выглядит уже не как особенность нейроинтерфейса, а как обычный организационный процесс: технология меняет практику, практика меняет технологию, и через несколько циклов обе стороны уже не совсем те, с которых всё начиналось.
Источники
