Avec l'accroissement des contenus générés par IA, comme les deepfakes ou les images synthétiques, il devient crucial de mettre en place des outils efficaces pour en assurer la traçabilité. Lors de la récente conférence Google I/O, l'entreprise a annoncé l'amélioration de ses dispositifs destinés à signaler, vérifier et documenter la création ou les modifications d'un contenu.
"Aujourd’hui, nous étendons nos outils de transparence et de vérification du contenu à plusieurs de nos produits et renforçons notre partenariat avec l’ensemble du secteur", déclare Google dans un communiqué.
Technologies pour garantir l'authenticité
Google propose des technologies comme SynthID, qui intègre des filigranes invisibles dans les fichiers pour permettre l'identification des contenus générés par IA. Initialement utilisé dans des outils spécifiques, SynthID est désormais étendu à divers services, et plus de 100 milliards de fichiers ont déjà été marqués.
Parallèlement, les métadonnées C2PA, également connues sous le nom de Content Credentials, servent à tracer l'historique d'un fichier média. Google s'apprête à intégrer ces métadonnées dans plusieurs de ses produits, permettant une identification plus précise des contenus.
Cette démarche, qui ne se limite plus à la production, touche également la recherche et la navigation. La vérification SynthID va être intégrée dans les outils comme Search, Chrome, et Google Lens, permettant aux utilisateurs de scanner des contenus visuels et de se demander s'ils ont été générés par une IA.
Appel à une normalisation dans l'industrie
En outre, Google plaide pour une normalisation à l'échelle de l'industrie afin d'unifier l'effort de détection des contenus générés par IA, affirmant :
"Il est essentiel que l'ensemble du secteur s'engage dans un partenariat et adopte des outils robustes et interopérables".
Des entreprises telles qu'OpenAI et ElevenLabs ont déjà commencé à adopter la technologie SynthID dans leurs productions. Google met également à disposition une API pour détecter les contenus IA qui pourra être utilisée par ses partenaires et clients, contribuant ainsi à la lutte contre la désinformation et la fraude.
Cependant, l'efficacité de ces outils dépendra de l'adoption généralisée par l'ensemble de l'écosystème numérique, englobant fabricants, réseaux sociaux et plateformes de création, afin d'assurer une confiance accrue dans les contenus numériques.
