Технологический предприниматель и венчурный инвестор Борис Муселяк сгенерировал поддельный паспорт всего за несколько минут и выложил результат в своём профиле на LinkedIn. Созданный документ оказался настолько правдоподобным, что вызвал бурную дискуссию о том, насколько современные системы проверки личности готовы к атакам с использованием генеративного ИИ.

Обычно нейросетевые подделки документов легко выявить из-за ошибок в формате, слабой типографике или нарушениях структуры машинно-считываемой зоны. Однако в случае Муселяка подделка выглядела практически идентично настоящему паспорту. Пользователи отметили, что теперь фальсификация документов стала значительно проще и быстрее, чем через традиционные инструменты вроде Adobe Photoshop.

Хотя созданный паспорт, вероятно, не пройдёт проверку из-за отсутствия встроенного чипа, его оказалось достаточно, чтобы обойти простейшие процедуры KYC, применяемые некоторыми финтех-компаниями. Например, сервисы вроде Revolut или Binance ограничиваются запросом фотографии паспорта и селфи пользователя. В таких условиях использование дипфейков может превратиться в эффективный инструмент мошенников.

В ответ на проблему, эксперты предлагают активнее внедрять методы проверки, основанные на технологии NFC, а также электронных удостоверениях личности (eID). Подобные способы предполагают верификацию данных на аппаратном уровне, что делает их менее уязвимыми для генеративных атак.

Интересно, что спустя 16 часов после публикации Муселяка попытка повторить эксперимент уже оказалась неудачной. ChatGPT отказался генерировать поддельный паспорт, сославшись на правила безопасности и запрет на создание фальшивых документов.

https://www.securitylab.ru/news/557958.php