Comment Google veut débusquer les contenus créés par IA avec SynthID Detector 🔍

Click here to read in English

Face à l’essor fulgurant des contenus générés par intelligence artificielle, Google dévoile un nouvel outil destiné à distinguer l’humain de la machine. Baptisé SynthID Detector, ce système permet d’identifier les textes, images, audios et vidéos produits à l’aide des modèles d’IA de la firme. Une avancée qui vise à protéger les utilisateurs contre la désinformation et à restaurer la confiance dans le numérique.

Une IA pour détecter l’IA 🧬

SynthID Detector s’appuie sur une technologie de filigranage invisible. Chaque contenu généré par les modèles de Google — qu’il s’agisse du texte de Gemini, des images d’Imagen, de l’audio de Lyria ou des vidéos de Veo — porte une signature discrète intégrée au fichier.

Lorsqu’un utilisateur soumet un fichier sur la plateforme, l’outil analyse les données pour détecter la présence de ce marquage. L’interface signale les parties concernées : un paragraphe précis, un fragment sonore ou une portion d’image.

© Google

Ce procédé, à la fois simple pour l’utilisateur et sophistiqué sur le plan technique, vise à apporter plus de clarté sur l’origine des fichiers.

Un rempart contre la désinformation en ligne 🛡️

Depuis l’explosion des contenus falsifiés, notamment les deepfakes, le besoin d’un outil de détection fiable se faisait sentir. Les chiffres sont alarmants : le nombre de deepfakes a bondi de plus de 550 % depuis 2019. Certains contenus générés par IA figurent aujourd’hui parmi les vidéos et textes les plus consultés sur Internet.

Avec SynthID Detector, Google propose une solution aux journalistes, chercheurs, enseignants et internautes pour vérifier l’authenticité des fichiers. L’entreprise affirme avoir déjà apposé des filigranes sur plus de 10 milliards de contenus depuis 2023.

Une technologie encore limitée mais prometteuse ⚙️

L’outil présente toutefois quelques limites. Il ne peut reconnaître que les contenus portant la signature numérique des modèles de Google. Les créations issues d’autres IA — comme celles de Meta ou d’OpenAI — utilisent des systèmes de marquage différents. De plus, certains acteurs malveillants parviennent encore à contourner les filigranes textuels.

Pour pallier ces défis, Google annonce vouloir travailler avec l’ensemble de la communauté technologique. Objectif : renforcer la robustesse des marquages et envisager une standardisation. Des collaborations sont déjà en cours, notamment avec NVIDIA, qui utilise SynthID dans ses vidéos, et GetReal Security, une plateforme spécialisée dans la vérification de contenus.

Vers une intelligence artificielle plus responsable 🌐

Le lancement de SynthID Detector s’inscrit dans une volonté de lutter contre les manipulations numériques. En rendant visibles les traces laissées par l’intelligence artificielle, Google envoie un signal fort en faveur de la transparence.

L’outil ne résoudra pas à lui seul le problème de la désinformation, mais il ouvre clairement la voie à une utilisation plus éthique et responsable de la technologie.

👉 Et vous, pensez-vous que ces outils suffisent à rétablir la confiance face aux contenus générés par IA ? Dites-nous en commentaires ! ☺️