OpenAI, один из лидеров в области генеративного ИИ, присоединился к инициативе C2PA (Coalition for Content Provenance and Authenticity) по обеспечению достоверности и подлинности цифрового контента. 📝🔍

Теперь модели OpenAI, такие как DALL-E 3 и грядущая Sora для генерации видео, будут интегрировать метаданные провенанса по открытому стандарту C2PA. Это позволит сертифицировать происхождение контента - сгенерирован ли он полностью ИИ, отредактирован с помощью ИИ-инструментов или создан традиционным (не-ИИ)) способом. 🎨🖌️🎥

Хотя эти метаданные можно удалить или подделать при большом желании и усердии, само их наличие станет важным маркером доверия, особенно на фоне растущих опасений по поводу потенциала ИИ-контента для дезинформации в преддверии выборов. 🗳️📰

Параллельно OpenAI разрабатывает устойчивые к взлому водяные знаки для аудио и классификаторы для выявления сгенерированных ИИ изображений. Независимые исследователи уже получили доступ к детектору #DALL-E 3 для тестирования и аудита. 🕵️‍♀️🔬

Внутренние тесты показывают многообещающие результаты - точность 98% в распознавании изображений DALL-E 3 и менее 0.5% ложных срабатываний на реальных фото. Однако классификатору пока сложнее отличать продукты разных генеративных моделей друг от друга. 📊📈

OpenAI видит будущее, где широкое принятие стандартов провенанса (провенанс (от фр. provenance — «происхождение, источник») — история владения художественным произведением или предметом антиквариата, его происхождение)приведет к сопровождению контента метаданными на всем жизненном цикле, заполняя критический пробел в обеспечении подлинности цифровых материалов. Но для этого потребуются коллективные усилия всех участников индустрии. 🤝💪

Вместе с Microsoft компания запускает $2 млн фонд для поддержки образования в сфере ИИ и повышения ИИ-грамотности населения. Ведь технических мер недостаточно - нужны согласованные действия по продвижению практик аутентификации контента и медиаграмотности. 👨‍🏫👩‍🏫📚

Будущее за ответственными инновациями ?🕊️🌿

Что вы думаете об этой инициативе OpenAI? Какую роль в обеспечении достоверности ИИ-контента могут сыграть платформы, креаторы, эксперты, СМИ, система образования?

#OpenAI #C2PA #ИИ #достоверность #прозрачность #MetaAI #будущее

https://openai.com/index/understanding-the-source-of-what-we-see-and-hear-online/