Commonwealth Bank of Australia завёл команду ботов под названием Pollen Team и отправил её не ловить мошенников, а разговаривать с ними. За прошлый год эти боты провели больше 350 тысяч бесед с аферистами. Никто ничего не блокировал с порога. Бот тянул время и изображал сомнение, а сам тем временем выяснял, какие скрипты используют мошенники и на какой счёт просят перевести деньги. Затем эта фактура уходит в другую систему банка, которая каждый день проверяет миллионы транзакций. На основе этих разговоров банк обновил более 3000 правил обнаружения мошенничества. Забавно, что не нейросеть в этом случае ловит мошенника. Мошенник сам, не подозревая, скармливает нейросети собственную методичку.

А вот цифра, из-за которой я вообще сел писать этот пост. В январе упомянутый банк провёл опрос и выяснил: 89% австралийцев уверены, что отличат дипфейк от настоящего видео или голоса. Реально же справились всего 42% респондентов. Хуже, чем если бы просто подбрасывали монетку. Джеймс Робертс, глава банка по борьбе с мошенничеством, сформулировал: «Разрыв между уверенностью и реальностью — именно то, чем пользуются мошенники».

Профессор Моника Уитти из Университета Монаша, специалист по кибербезопасности, добавляет: «Люди по умолчанию доверяют лицам и голосам, особенно знакомым. Дипфейк не изобретает ничего нового. Он просто эксплуатирует этот рефлекс».

На занятиях по медиабезопасности я регулярно разбираю со студентами очередной звонок от «службы поддержки банка» или видео с «директором компании». И кто-то в аудитории обязательно говорит: ну я бы точно заметил. Теперь у меня есть ответ поточнее: «Заметили бы четверо из десяти. В лучшем случае». Занятная деталь для тех, кто отвечает за репутацию бренда. Можно сколько угодно мониторить упоминания себя в новостях. А мошенник в это время уже говорит вашим голосом с вашим же клиентом — и этот голос, в отличие от настоящего директора, всегда на связи.