Внутри искусственного интеллекта снова нашли человека
Meta* тестирует новую функцию своего AI-ассистента Muse. Пользователь сможет попросить его позвонить в салон и записать на стрижку, узнать наличие товара в магазине или собрать предложения от подрядчиков.
Звучит как тот самый мир AI-агентов, который нам обещали: ты формулируешь задачу — технология сама разбирается со всем остальным.
Есть только одна маленькая деталь.
Часть звонков вместо искусственного интеллекта совершают живые операторы. Muse передаёт им запрос, человек звонит, а пользователь получает готовый результат и расшифровку разговора.
Пока это внутренний тест, но даже сотрудники Meta* уже задались вопросом: а понимает ли пользователь, что информацию, которой он делится с AI-ассистентом, в какой-то момент может получить подрядчик из кол-центра? (reuters.com)
Вообще, с точки зрения создания продукта здесь нет ничего удивительного.
Сначала можно выполнить процесс руками, посмотреть, как люди пользуются функцией, собрать нестандартные сценарии — и только потом автоматизировать. Продуктовые команды постоянно так делают.
Да и пользователю чаще всего неважно, что происходит под капотом. Он хотел записаться на стрижку — его записали. Задача решена.
Но в случае с AI есть нюанс: технология меняет не только ожидания от скорости, но и ощущение приватности.
Одно дело — понимать, что разговариваешь с оператором. Другое — рассказывать что-то «искусственному интеллекту», не зная, что в этот момент внутри него сидит вполне настоящий человек.
Поэтому проблема не в том, что за AI временно спрятан ручной труд. Это нормальный способ проверить гипотезу.
Проблема начинается там, где пользователь думает, что доверяет данные алгоритму, а продукт без предупреждения передаёт их человеку.
Получается, что самое важное в развитии AI-продуктов — не только научить их выполнять больше задач, но и не потерять доверие пользователей, пока создаёшь ощущение технологической магии.
- Meta Platforms Inc. признана экстремистской организацией, её деятельность запрещена на территории РФ.
