GPT-4o и фальшивые документы: угроза или предсказуемый этап?

Подписывайтесь на нас в Сетке    ✍️ | _Подделка справки — за 10 секунд_

Новая версия GPT-4o способна сгенерировать реалистичный документ — от квитанции до больничного — буквально за пару строк. Раньше такие «услуги» были доступны только с навыками дизайна, теперь — почти каждому

🔭 | Метки есть, но не защищают     OpenAI встраивает в изображения C2PA-метаданные — цифровой водяной знак, который указывает на ИИ-источник. Проблема в том, что их можно легко удалить или просто проигнорировать, если пользователь не проверяет метки специальными инструментами        🤔 | Чем это опасно     Фейки могут использоваться для фальшивых возвратов, страховок, взлома идентификации. Одна из главных угроз — обесценивание «документа как подтверждения». Если каждый может быстро сгенерировать PDF с печатью и подписями — кто будет верить бумаге?        ⌨️ | Технология — не враг, но она ускоряет злоупотребления     Рынок регуляций и инструментов проверки не поспевает за скоростью генерации. При этом сами генераторы становятся всё доступнее — и точнее в деталях        Вывод:* ИИ, способный создавать документы, — это уже не sci-fi, а часть сегодняшнего цифрового риска. Контроль доверия теперь — не про бумагу и печать, а про верификацию источника и цифровую подписьЕсли вы работаете с контрактами, верификацией или финансовыми подтверждениями — пересматривайте свою защиту уже сейчас

GPT-4o и фальшивые документы: угроза или предсказуемый этап? | Сетка — социальная сеть от hh.ru