CaseMatcher: что меняется, если спор вокруг ИИ заканчивается выводом, что это вообще не ИИ?

Нидерландская миграционная служба IND использует CaseMatcher для поиска ранее рассмотренных дел об убежище. В сентябре суд Северной Голландии специально разбирал вопрос о том, что представляет собой эта система и насколько она влияет на решения сотрудников IND.

Вывод получился довольно интересным: суд не признал CaseMatcher ни системой искусственного интеллекта, ни сложным алгоритмом принятия решений.

По представленному IND описанию, это rule-based инструмент поиска: сотрудник вводит поисковый запрос, программа находит дела, где встречается соответствующий термин, и ранжирует результаты по дате или релевантности.

Решение по заявлению принимает сам сотрудник. На первый взгляд после такого вывода кейс можно вообще убрать из подборки об ИИ. Мне кажется, наоборот, он становится методологически полезным.

Мы легко называем «алгоритмом» или «ИИ» практически любой цифровой инструмент, который появляется рядом с важным решением. В результате иногда преувеличиваем автономность технологии и одновременно теряем из виду её реальную функцию.

CaseMatcher не решает, кому предоставить убежище. Но он участвует в том, какую предыдущую практику сотрудник увидит во время подготовки решения. Это более слабое влияние, чем автоматическое решение, но от этого оно не перестаёт быть частью процесса.

Поэтому здесь для меня важнее не вопрос «решает ли ИИ судьбу человека», а более точный: какое место занимает цифровой инструмент в формировании профессионального суждения и достаточно ли хорошо мы это место понимаем.

Различие принципиально. Так, если называть автоматическим решением любую цифровую поддержку, мы перестаём видеть реальные границы между поиском информации, рекомендацией, влиянием и собственно решением.

Источник: Rechtspraak — CaseMatcher beïnvloedt volgens rechtbank besluiten IND niet direct