SynthID expliqué : capacités, mécanique et limites honnêtes

SynthID est la famille de filigranes invisibles de Google DeepMind pour le contenu généré par IA. Il intègre un signal imperceptible et détectable par machine au moment de la génération dans le texte, les images, l’audio et la vidéo produits par les modèles de Google (Gemini, Imagen, Veo, Lyria, l’audio de NotebookLM), et le jumelle à des outils de détection qui rapportent si ce signal est présent. C’est le filigrane génératif le plus largement déployé en production, avec plus de 10 milliards de contenus filigranés selon le décompte de Google. Il est aussi fréquemment mal compris : SynthID identifie le contenu fait par des systèmes intégrant SynthID, pas le contenu IA en général, et son filigrane de texte a des faiblesses documentées sous la paraphrase et la génération à faible entropie.

Cette page explique son fonctionnement par modalité, ce que vous pouvez vérifier de son déploiement aujourd’hui, et où il s’insère ou non dans une pile d’ingénierie ou de conformité. Pour le paysage général des techniques, commencez par le carrefour du filigranage du contenu IA.

Ce que SynthID couvre aujourd’hui

Selon la page SynthID de DeepMind, le système filigrane quatre modalités :

Côté détection, il existe deux voies vérifiables. Premièrement, vous pouvez demander directement à Gemini de vérifier si une image, une vidéo ou un clip audio a été généré ou retouché par l’IA de Google, et il vérifie la présence d’un filigrane SynthID. Deuxièmement, Google exploite SynthID Detector, un portail de vérification où les médias téléversés sont analysés à la recherche du filigrane; au moment d’écrire ces lignes, DeepMind décrit l’accès comme un déploiement progressif via une liste d’attente de premiers testeurs, d’abord avec des journalistes et des professionnels des médias.

Comment fonctionne SynthID-Text

SynthID-Text est le membre le mieux documenté de la famille parce que DeepMind l’a publié dans Nature (Dathathri et coll., 2024, « Scalable watermarking for identifying large language model outputs ») et a mis en source ouverte une implémentation de production.

Un modèle de langage génère le texte un jeton à la fois, en échantillonnant à chaque étape à partir d’une distribution de probabilité. SynthID-Text intervient uniquement dans cette étape d’échantillonnage : il ne touche pas à l’entraînement, et la détection ne requiert pas le grand modèle de langage sous-jacent. Le schéma utilise ce que l’article appelle l’échantillonnage par tournoi : à chaque étape, des jetons candidats sont tirés et s’affrontent à travers des rondes de notation par des fonctions de filigranage pseudo-aléatoires chiffrées avec une clé secrète, et le gagnant est émis. Sur un passage de texte, les choix de jetons obtiennent systématiquement des scores plus élevés sous ces fonctions que du texte non filigrané, et un détecteur détenant la clé calcule ce score et rend un verdict statistique.

Trois faits pertinents pour l’ingénierie, tirés de l’article et de la publication :

1. La qualité est préservée à l’échelle de la production. DeepMind a fait tourner le filigrane en direct dans Gemini sur près de 20 millions de réponses; les différences dans les taux de pouces en haut et en bas des utilisateurs entre réponses filigranées et non filigranées étaient statistiquement insignifiantes.
2. Il se compose avec l’inférence de production. L’article décrit l’intégration du filigranage avec l’échantillonnage spéculatif, l’optimisation de latence standard des piles de service, ce qui explique en grande partie pourquoi ce schéma est passé en production alors que les schémas académiques n’y sont pas arrivés.
3. Vous pouvez l’exploiter vous-même. SynthID-Text est livré comme processeur de logits au moment de la génération dans Hugging Face Transformers v4.46.0+, appliqué après les filtrages top-k et top-p, sans réentraînement requis. La version en source ouverte inclut un détecteur bayésien qui retourne l’un de trois états (filigrané, non filigrané, incertain) avec deux seuils réglables, pour que vous étalonniez les taux de faux positifs et de faux négatifs selon votre propre budget de risque. Le Responsible GenAI Toolkit de Google documente sa mise en production.

Côté détection, la mécanique est d’une simplicité rafraîchissante : le détecteur recalcule les fonctions de filigranage pseudo-aléatoires sous la clé et fait la moyenne des scores des jetons observés sous celles-ci. Le texte filigrané obtient des scores systématiquement au-dessus de la base non filigranée, et le score est comparé à des seuils étalonnés. Cela signifie que la détection est peu coûteuse (pas d’inférence de grand modèle, juste de la notation), assez rapide pour tourner en ligne dans des pipelines de modération ou de conformité, et privée pour quiconque détient la clé. Cela signifie aussi que la preuve est statistique : la confiance croît avec le nombre de jetons évalués, ce qui explique pourquoi les longs passages donnent des verdicts confiants alors que les fragments de la taille d’un gazouillis tombent souvent dans la bande « incertain ».

Cette version en source ouverte mérite d’être soulignée : si vous hébergez vous-même des grands modèles de langage à poids ouverts, SynthID-Text est actuellement la voie clé en main la plus crédible vers le filigranage de texte au moment de la génération, parce que c’est le seul schéma majeur avec à la fois une évaluation évaluée par les pairs à l’échelle de la production et une implémentation ouverte maintenue. L’écart entre « l’algorithme existe dans Transformers » et « notre déploiement est conforme » reste un vrai travail : générer et pivoter les clés de filigranage, décider quels points de terminaison filigranent, héberger le détecteur, et étalonner ses deux seuils contre un budget de faux positifs mesuré sur votre propre trafic.

Comment SynthID fonctionne pour les images, l’audio et la vidéo

Google a publié moins de détails techniques sur les filigranes de médias que sur le texte, donc la description honnête se situe au niveau des propres déclarations de DeepMind. Pour les images, SynthID ajoute un filigrane invisible dans le contenu des pixels qui ne change pas visiblement l’image, conçu pour rester détectable à travers les transformations courantes. Pour la vidéo, DeepMind indique que le filigrane est intégré par trame et bâti pour survivre à des modifications comme le recadrage, les filtres, les changements de cadence et la compression avec perte. Pour l’audio, le signal est intégré dans la forme d’onde de façon inaudible.

Ce qui n’est pas public : l’architecture d’insertion exacte, les modèles de détection, les référentiels de robustesse contre des suites d’attaques spécifiques, et les clés. La détection des médias SynthID passe par les outils de Google, sur l’infrastructure de Google, pour du contenu fait par des intégrateurs côté Google (plus des intégrations partenaires annoncées). Vous ne pouvez pas héberger vous-même un détecteur d’images SynthID comme vous pouvez exploiter le détecteur de texte.

Limites honnêtes

Une architecture de conformité ou de confiance et sécurité bâtie sur de mauvaises hypothèses à propos de SynthID échouera silencieusement, donc les limites comptent autant que les capacités.

Il ne détecte que ce qu’un intégrateur compatible a marqué. Une vérification SynthID retournant « aucun filigrane trouvé » signifie que le contenu n’a pas été filigrané par SynthID. Cela ne signifie pas que le contenu est d’origine humaine : les sorties de modèles qui n’ont jamais intégré SynthID (la plupart des modèles à poids ouverts tels que les utilisateurs les exploitent, la plupart des modèles commerciaux non Google) retournent le même négatif. Traitez la détection SynthID comme une preuve unidirectionnelle.

Le filigranage de texte s’affaiblit sous la retouche et la paraphrase. L’article de Nature lui-même rapporte que la performance de détection est affaiblie par des modifications au texte, et des travaux indépendants ont mis exactement cela à l’épreuve : les attaques par paraphrase récursive dégradent fortement la détectabilité des filigranes à travers les schémas (Sadasivan et coll.), et une évaluation de robustesse de SynthID-Text dédiée sonde son comportement sous perturbation. Faire passer du texte filigrané par un autre grand modèle de langage pour le réécrire est une attaque à faible compétence. Consultez robustesse des filigranes et attaques pour la taxonomie complète.

Le texte à faible entropie porte peu de filigrane. Quand la distribution de sortie du modèle est presque déterministe (extraits de code, réponses factuelles d’une ligne, traductions de phrases figées), il n’y a pas assez de liberté d’échantillonnage pour intégrer un signal, et la confiance de détection chute. Les passages courts aggravent le problème : le test statistique a besoin de jetons pour accumuler des preuves.

La détection des médias n’est pas auditable indépendamment. Parce que les détecteurs d’image, d’audio et de vidéo sont fermés, vous ne pouvez pas mesurer indépendamment les taux de faux positifs sur votre propre distribution de contenu, et vous dépendez du portail ou de la surface d’API de Google pour la vérification. Pour les flux de travail réglementés qui exigent une performance de détection documentée et reproductible, c’est une contrainte architecturale réelle.

Ce n’est pas de la provenance. SynthID répond à « ceci a-t-il été fait par un générateur marqué », pas à « qui a fait ceci, quand, avec quelles retouches ». Les métadonnées de provenance signées cryptographiquement, l’approche C2PA, répondent à la seconde question mais disparaissent sous le réencodage, tandis que le filigrane survit à l’intérieur du signal. Ce sont des compléments : le compromis est cartographié dans C2PA vs filigranage.

Où SynthID s’insère, et où il ne s’insère pas

Il s’insère quand vous construisez sur la pile générative de Google. Si votre produit génère via Gemini, Imagen, Veo ou Lyria, le filigranage se produit déjà en amont. Votre tâche d’ingénierie est la vérification et la preuve : confirmez que le marquage s’applique à votre schéma d’utilisation de l’API, exercez la détection sur des sorties réelles, et documentez les deux pour votre dossier Article 50 de la Loi européenne sur l’IA. L’Article 50(2) exige un marquage lisible par machine « effectif, interopérable, robuste et fiable dans la mesure où cela est techniquement possible » à partir du 2 août 2026, selon le texte officiel, et le filigranage de plateforme hérité est une partie légitime de ce dossier si vous pouvez le montrer en fonctionnement.

Il s’insère quand vous hébergez vous-même des grands modèles de langage et avez besoin de filigranage de texte maintenant. L’intégration Transformers vous donne l’insertion et la détection sous votre propre clé avec un appui évalué par les pairs.

Il ne s’insère pas comme votre seul contrôle pour les médias que vous n’avez pas générés. Les équipes de confiance et sécurité qui trient du contenu entrant ont besoin d’une détection en couches (vérifications de filigranes, vérifications de métadonnées de provenance, détection par classificateur), parce que la plupart du contenu synthétique hostile ne portera pas de marque SynthID. Cette superposition est le sujet de détection vs provenance.

Il ne s’insère pas là où vous avez besoin de charges utiles d’affaires multi-bits. SynthID vous dit « marqué par ce système ». Si vous devez encoder quel client, quelle session ou quelle licence a généré un actif, il vous faut des schémas avec charges utiles récupérables (par exemple, Stable Signature de Meta intègre une signature binaire par instance de modèle) ou une couche personnalisée.

La lecture stratégique : SynthID est la preuve la plus forte à ce jour que le filigranage au moment de la génération fonctionne à l’échelle grand public sans nuire à la qualité, et son implémentation de texte est réellement utilisable par des tiers aujourd’hui. C’est une composante solide, pas une réponse de conformité clé en main, et l’écart entre les deux est du travail d’intégration : gestion des clés, étalonnage du détecteur, tests de robustesse contre votre propre pipeline, et documentation.

Webisoft intègre SynthID et des schémas de filigranage complémentaires dans des pipelines de génération en production, y compris le travail de détection, d’étalonnage et de preuves pour l’Article 50 qui les entoure.