Meta, OpenAI et Google rejoignent la C2PA pour améliorer la transparence des contenus en ligne

La désinformation est plus prévalente que jamais sur Internet en 2024. Les faux contenus peuvent se répandre comme une trainée de poudre sur les réseaux sociaux. Le temps d’en identifier et « débunker » un, dix autres ont été produits. Le boom de l’IA générative ne fait qu’empirer les choses, la création de trucages étant désormais triviale. Avec un fort enjeu lors de cette année d’élection présidentielle américaine, Meta, OpenAI et Google ont rejoint la C2PA, une coalition d’acteurs de la Tech proposant un marqueur invisible permettant d’identifier la provenance des contenus.

Meta, OpenAI et Google ont rejoint la Coalition for Content Provenance and Authenticity (C2PA) cette semaine, un consortium dont l’objectif est de créer des standards pour l’identification des contenus en ligne.

Des métadonnées pour attester de la provenance des images et vidéos

Fondée en 2021 par Adobe, Arm, la BBC, Intel, Microsoft et Truepic, la C2PA a mis au point différents standards à date, dont la norme commune Content Credentials, qui permet d’intégrer un marqueur invisible à un contenu sous forme de métadonnées (voir schéma ci-dessous). Pour une image ou une vidéo, ce peut être le nom de l’auteur, sa date de création, la crédibilité de la source, mais aussi la manière dont elle a été créée (que ce soit manuellement ou à l’aide d’un outil utilisant des techniques d’intelligence artificielle).

Google en particulier va rejoindre le comité de pilotage de l’organisation. “Nous avons une approche responsable de l’IA qui consiste à travailler avec d’autres acteurs du secteur pour favoriser et améliorer la transparence autour du contenu numérique, a expliqué Laurie Richardson, vice-présidente confiance et sécurité chez Google. Rejoindre le comité […] s’inscrit au sein d’une approche similaire, avec le SynthID de Google DeepMind, la fonction ‘À propos de cette image’ et les étiquettes YouTube.”

L’intégration de Content Credentials dans les produits et services de Google sera donc complémentaire avec ses efforts précédents. Elle n’est, pour l’heure, pas effective, mais la firme l’“étudie activement”. L’arrivée de ce poids lourd dans la C2PA pourrait grandement améliorer la lutte contre la désinformation sur les contenus numériques, notamment avec les 2,5 milliards d’utilisateurs actifs mensuels de YouTube.

Un enjeu décuplé par les progrès de l’IA générative

Meta et OpenAI se concentrent de leur côté sur les contenus générés automatiquement. L’entreprise de Mark Zuckerberg intègre depuis le début des marqueurs dans les images générées par ses propres modèles d’IA, mais elle va désormais tenter d’identifier ceux provenant d’autres modèles lorsqu’ils seront publiés sur ses réseaux sociaux. Une tâche ardue pour laquelle il ne faut pas s’attendre à un résultat parfait, a mis en garde Nick Clegg, président des affaires internationales chez Meta, le 6 février. De son côté, OpenAI a annoncé l’intégration d’un marqueur basé sur Content Credentials dans ses modèles de génération d’images.

Outre ses membres fondateurs et les trois nouveaux adhérents prestigieux, la C2PA compte désormais près de 100 entreprises en son sein, dont des grands noms comme Sony, Publicis ou Witness. Fabricants de caméras, créateurs de contenus, ONG font partie de son écosystème. Déjà disponible sur quelques appareils Leica, l’intégration de ces marqueurs devrait s’étendre à certains modèles Sony au printemps, avec un « certificat de naissance » des images.

L’objectif de la C2PA est de créer un système d’identification qui puisse résister aux modifications en tout genre, chose excessivement difficile. Si l’adoption massive de Content Credentials est un pas dans la bonne voie, il n’est qu’un pan de ce qui devra obligatoirement être une approche multifacettes pour enrayer durablement la machine à désinformation qu’est devenu Internet.

Source : usine-digitale.fr