Это не бунт роботов. Просто нужны правила

Не знаю как у вас, а у меня в лентах часто появляются посты с видео где роботы ведут себя не дружелюбно: один наехал на человека, другой проигнорировал команду, третий ударил ребенка, … создал опасную ситуацию… и тд.

Возникает ощущение, будто технологии начинают вести себя непредсказуемо и мы в шаге от восстания машин.

Но это не так. Пока по крайней мере.

Все дело в правилах/ограничениях, которые не успевают заложить в новые решения. Наверное потому что торопятся, боятся не успеть быть первым/занять нишу. А может быть это просто беда нашего времени - нет глубины проработки, все поверхностно. Думаем спринтами и инкрементами, а потом дорабатываем. И получается, что технологии опережают правила. Роботы уже стали частью повседневной жизни. Мы их встречаем в доставке, ритейле, маркетинге, гостеприимстве, логистике. Но они действуют не в изолированном пространстве, а среди людей. И возникает конфликт: человек ориентируется на контекст и эмоции, машина - на сценарии и датчики.

Поэтому и возникают ситуации когда робот не соблюдает дистанцию, не реагирует на жесты, не учитывает поведенческие нюансы. Для железяки это не ошибка/сбой, а отсутствие соответствующих сценариев. Правил!

ИИ вовсю внедряют для автоматизации, оптимизации, снижения издержек, улучшения сервиса и клиентского опыта. Но почти нигде при разработке проектов не смотрят на опыт клиента со стороны клиента. А именно он определяет, как технология будет восприниматься клиентами в реальной жизни.

В большинстве случаев отсутствуют аварийные сценарии «Что должен делать робот, если что-то пойдет не по алгоритму.» И любой сбой воспринимается как угроза, а не как техническая неисправность. Из-за страха сбой становится вопросом безопасности и доверия. Отсюда и паранойя про близкое восстание машин.

❗️Что делать? - Создавать нормативы и писать правила!

Необходимы четкие правила взаимодействия робота с человеком. Не формальные стандарты, а конкретные поведенческие модели: соблюдение дистанции, приоритет человека в спорных ситуациях, обязательная остановка при неопределенности, соединение с оператором и тд.

Появление базовых регламентов сделает взаимодействие с роботами предсказуемее, а значит безопаснее.

А восстание машин откладывается. Пока откладывается.

#технологии #стандарты Сервис в деталях Телеграм / МАХ / TenChat

В этом посте были ссылки, но мы их удалили по правилам Сетки