Détecteur de filigrane IA : Ce qu'il peut trouver, ce qu'il peut prouver et comment l'utiliser de manière responsable

Qu'est-ce qu'un détecteur de filigrane IA ?

Un détecteur de filigrane IA est tout outil ou méthode conçu pour identifier les signaux qui ont été délibérément ou accidentellement intégrés dans le contenu généré par IA au moment de la création. Le mot « filigrane » couvre trois catégories techniques distinctes souvent confondues. Les marques de provenance au niveau du fichier – notamment les identifiants de contenu C2PA – sont des certificats signés cryptographiquement stockés dans le conteneur de métadonnées d'un fichier image ou vidéo. Ils affirment la paternité et enregistrent quel outil d'IA a produit le contenu, mais ils se trouvent dans l'emballage du fichier et peuvent être supprimés par tout éditeur de métadonnées standard. Les filigranes au niveau des pixels, dont le SynthID de Google DeepMind est l'exemple le plus connu, codent un signal détectable directement dans les valeurs de pixels d'une image lors de la génération. Contrairement aux métadonnées de fichier, ceux-ci survivent à la conversion de format, à la compression JPEG et à la capture d'écran car ils sont tissés dans le contenu réel de l'image plutôt que dans le conteneur de fichier. Les filigranes de texte fonctionnent différemment : puisque le texte ne peut pas intégrer de signaux dans les valeurs de pixels, le filigranage de texte fonctionne en influençant la distribution de probabilité des choix de mots lors de la génération. Lorsqu'un modèle comme un grand modèle de langage génère un token, il peut être biaisé pour favoriser légèrement les tokens d'une liste de vocabulaire « verte » désignée. Sur des centaines de tokens, ce biais crée un motif statistiquement détectable – le texte obtient un score plus élevé que prévu sur la fréquence des tokens verts. Un détecteur de filigrane IA pour le texte vérifie si un passage montre ce type de biais distributif. Les trois approches ont le même objectif – permettre à un tiers de vérifier l'origine de l'IA après coup – mais elles diffèrent considérablement dans ce qui survit à l'édition, à la traduction ou aux tentatives de suppression délibérée.

1. Provenance au niveau du fichier (C2PA) : certificat cryptographique dans les métadonnées du fichier image ou vidéo ; identifie l'outil d'IA qui a généré le contenu ; suppression triviale avec n'importe quel éditeur EXIF
2. Filigranes au niveau des pixels (SynthID) : signal codé dans les valeurs réelles des pixels lors de la génération ; survit à la conversion de format, à la compression et aux captures d'écran ; impossible de supprimer sans dégrader significativement l'image
3. Filigranes de texte (statistiques) : biais dans les probabilités de sélection de tokens lors de la génération crée une signature distributive mesurable ; survit aux éditions mineures mais se dégrade avec un paraphrasage lourd ou une traduction
4. Signatures intrinsèques au modèle : artefacts involontaires de l'architecture de génération elle-même – les détecteurs d'IA qui ne dépendent pas des filigranes les analysent à la place ; présents dans toute sortie d'IA indépendamment de l'activation du filigranage

Filigranes de texte vs. filigranes d'image : Quelle est la différence ?

La mécanique du filigranage de texte et d'image diverge si considérablement que comprendre l'une ne vous prépare pas automatiquement à raisonner sur l'autre. Pour les images, le problème d'intégrer un signal invisible est une branche bien étudiée de la stéganographie numérique. Les chercheurs peuvent modifier les bits les moins significatifs des valeurs de pixels, altérer les composantes de fréquence à l'aide de la transformée en cosinus discrète, ou – comme le fait SynthID – ajuster les intensités relatives des pixels dans les patchs locaux de manière imperceptible à la vision humaine mais statistiquement détectable par le détecteur de filigrane entraîné. Parce que le signal est distribué de manière redondante sur des millions de pixels, il persiste à travers les types de manipulation qu'une image typique pourrait subir : redimensionnement, correction des couleurs, réencodage JPEG à des niveaux de qualité raisonnables et même impression et numérisation. La robustesse de SynthID aux captures d'écran est notamment remarquable : lorsque vous capturez une image filigranée, vous capturez essentiellement ses valeurs de pixels sans modification, donc le filigrane survit. Pour le texte, le défi est plus difficile. Le texte est discret : il n'y a pas de valeurs au niveau des caractères individuels à modifier subtilement, et toute altération qui change le motif statistique change aussi le sens. L'approche techniquement la plus crédible du filigranage de texte – pionnière dans les travaux académiques de l'UC Santa Barbara et plus tard référencée dans les déclarations publiques de Google sur ses produits de génération de texte – insère une dépendance cachée dans le processus d'échantillonnage des tokens. Chaque fois que le modèle sélectionne un mot, une fonction de hachage privée détermine si ce mot fait partie de l'ensemble « vert » ou « rouge » pour cette position dans la séquence. Le modèle est biaisé pour sélectionner les tokens verts. Un détecteur ayant accès à la même fonction de hachage peut ensuite noter tout passage pour sa proportion de tokens verts et la comparer à la distribution attendue pour le texte non filigranné. Un score élevé de tokens verts indique que le texte peut être filigranné ; un score proche de la ligne de base attendue indique qu'il ne l'est probablement pas. Le problème pratique est que cette détection ne fonctionne que pour le texte généré par un modèle dont le filigranage était activé – et la plupart des LLM publiquement accessibles, y compris les versions API de GPT-4 et Claude, n'appliquent actuellement pas de filigranes de texte aux sorties d'utilisateurs par défaut.

"Le filigranage des sorties de modèle de langage est techniquement viable mais nécessite que chaque grand fournisseur le mette en œuvre de manière cohérente – un problème de coordination qui n'a pas encore été résolu à l'échelle." — Soheil Feizi, Université du Maryland, 2023

Qu'est-ce qu'un filigrane IA peut réellement prouver ?

C'est la question qui est le plus souvent négligée dans la couverture du filigranage de l'IA. Un filigrane, lorsqu'il est détecté, fournit la preuve qu'un système d'IA spécifique a généré le contenu au moment de la création. Cela ne prouve pas que le contenu est nuisible, plagié ou inapproprié. Cela ne prouve pas que la personne qui a soumis le contenu a utilisé l'IA d'une manière qui viole une règle particulière. Et critiquement, l'absence d'un filigrane détectable ne prouve pas que le contenu a été écrit ou créé par un humain. Il y a plusieurs raisons pour lesquelles l'absence n'est pas exculpatoire. Premièrement, la grande majorité du contenu généré par l'IA actuellement en circulation a été produite par des systèmes qui n'ont jamais implémenté le filigranage ou ne l'avaient pas activé. Un étudiant qui a utilisé GPT-4 via l'interface standard de ChatGPT, ou un générateur d'images sans adoption de C2PA, a produit un contenu sans filigrane – parce que ces outils ne filigranent pas leurs sorties. Deuxièmement, les filigranes peuvent être supprimés. Les métadonnées au niveau du fichier sont supprimées par les outils standards. Les filigranes de texte se dégradent sous paraphrasage. Même les filigranes au niveau des pixels ne sont pas garantis de survivre au traitement contradictoire spécifiquement conçu pour les vaincre. Troisièmement, certains outils ajoutent de faux filigranes au contenu créé par des humains, soit intentionnellement pour confondre les détecteurs, soit comme un artefact des pipelines de traitement. Un filigrane détecté est donc significatif : c'est une preuve positive qu'un système d'IA spécifique a participé à la production du contenu. Pas de filigrane est non informatif : cela signifie qu'aucun système de filigranage n'a été utilisé, le filigrane a été supprimé, ou le contenu est véritablement créé par un humain. Ce sont trois situations différentes ayant des implications très différentes, et un résultat de détecteur de filigrane IA seul ne peut pas les distinguer.

Les filigranes IA peuvent-ils être supprimés ou contrecarrés ?

La robustesse d'un filigrane dépend fortement de son type et de la sophistication de la tentative de suppression. Les identifiants C2PA au niveau du fichier peuvent être supprimés en quelques secondes par quiconque ayant une compréhension basique des métadonnées d'image. Clic droit sur une image, suppression de ses données EXIF avec un outil gratuit, conversion entre les formats sans l'option « préserver les métadonnées » ou simple capture d'écran – l'une de ces actions produit un fichier sans identifiants C2PA. Ce n'est pas un défaut de la conception C2PA ; la norme a été construite comme une chaîne de provenance pour les médias authentiques, pas comme un certificat d'utilisation de l'IA à l'épreuve des manipulations. Lorsque les identifiants C2PA sont présents, leur présence est significative. Lorsqu'ils sont absents, cette absence ne prouve rien sur l'origine. Les filigranes de texte sont plus robustes que les métadonnées de fichier mais plus fragiles que l'intégration au niveau des pixels. Les études académiques sur les filigranes basés sur la distribution de tokens ont trouvé que le paraphrasage lourd, la traduction dans une autre langue et inversement, ou le mélange de texte filigranné avec des passages non filigrantés peuvent tous réduire considérablement la confiance de détection. Une analyse de 2023 de l'Université du Maryland a révélé que les attaques par paraphrasage réduisaient la précision de détection de presque-certain à à peine mieux que le hasard pour certains schémas de filigranage. Il est crucial que le paraphrasage efficace nécessite déjà suffisamment d'édition pour que la sortie diffère substantiellement de ce que le modèle a généré – ainsi l'attaque a un coût. Les filigranes au niveau des pixels comme SynthID sont les plus robustes des trois catégories. Ils sont spécifiquement conçus pour survivre aux types de manipulation qui se produisent généralement lors de la distribution d'images : redimensionnement, compression, étalonnage des couleurs et conversion de format. Supprimer SynthID d'une image sans dégrader sa qualité visuelle au point où cela contredit l'objectif de l'image est, selon la recherche publiée de Google DeepMind, difficile sur le plan informatique. Cela dit, aucun filigrane n'est inconditionnellement robuste. Le rééchantillonnage suffisamment agressif, l'ajout de bruit ou l'utilisation d'outils de perturbation contradictoire spécifiquement conçus pour vaincre les filigranes de pixels peuvent tous réduire la confiance de détection, bien qu'généralement au prix de la qualité de l'image.

1. Métadonnées de fichier C2PA : suppression en quelques secondes avec n'importe quel éditeur EXIF, conversion de format ou capture d'écran ; absence d'identifiants ne prouve rien sur l'origine de l'IA
2. Filigranes de distribution de tokens de texte : se dégradent considérablement avec un paraphrasage lourd (réduction d'environ 50 % en confiance de détection rapportée dans les études académiques) ; survivent aux éditions légères et aux reformulations mineures
3. Filigranes au niveau des pixels (SynthID) : robustes à la compression JPEG, au redimensionnement, à l'étalonnage des couleurs et aux captures d'écran ; la défaite nécessite un traitement contradictoire qui dégrade généralement la qualité visuelle
4. Attaques de traduction sur texte : la conversion du texte filigranné dans une autre langue et inversement réduit considérablement le signal de filigrane car la distribution du vocabulaire se réinitialise
5. Perturbation de pixels contradictoire : les outils spécialisés peuvent affaiblir même les filigranes de style SynthID, mais le traitement est coûteux sur le plan informatique et introduit souvent des artefacts visibles

Qu'est-ce qu'un détecteur de filigrane IA manque ?

Tout détecteur de filigrane IA a un problème de couverture difficile : il ne peut trouver que les signaux qui ont été intégrés par des systèmes qu'il connaît et qui n'ont pas été ensuite détruits. Cela crée trois lacunes systématiques que les utilisateurs s'appuyant uniquement sur la détection de filigranes rencontreront. La première lacune est la couverture du générateur. La plupart du texte d'IA est généré par des modèles – les versions publiques de ChatGPT, Claude, Gemini et autres – qui n'intègrent actuellement pas les filigranes de texte dans leurs sorties standard. Un détecteur de filigrane IA conçu autour de l'analyse de distribution de tokens ne signalera aucun filigrane sur la plupart du texte généré par l'IA en circulation, non pas parce que le texte est écrit par un humain, mais parce qu'il provient de systèmes qui n'ont jamais implémenté le filigranage. La deuxième lacune est la lacune d'édition post-génération. Même pour les systèmes qui filigranent leurs sorties, toute édition substantielle par un humain par la suite dégrades le signal de filigrane. Un étudiant qui demande à une IA un brouillon puis réécrit les deux tiers à la main pourrait finir avec un texte qui réussit la détection de filigrane – parce que les tokens filigrantés sont maintenant une petite minorité dans un passage plus grand. Un détecteur de filigrane IA mesurant le biais distributif dans le texte complet verra un signal dilué. Ce n'est pas un défaut de l'approche de détection ; c'est une lecture précise du contenu, qui est véritablement plus édité par un humain que généré par l'IA à ce stade. La troisième lacune est le contenu d'IA produit par des modèles qui ne filigranent délibérément pas les sorties. Les modèles open source téléchargés et exécutés localement – LLaMA, Mistral, Qwen et autres – produisent du texte et des images sans filigranes, car l'utilisateur contrôle l'inférence et la plate-forme ne peut pas appliquer l'insertion de filigrane. Tout contenu produit par ces outils n'aura pas de filigrane, indépendamment de la quantité d'IA impliquée. Ces lacunes expliquent pourquoi la détection de filigrane IA est plus utile comme une couche d'un processus de vérification multi-signaux, non pas comme une méthode de vérification autonome.

Comment vérifier le contenu IA de manière responsable à l'aide de la détection de filigranes

L'utilisation responsable d'un détecteur de filigrane IA commence par comprendre ce que l'outil répond réellement. Une vérification de filigrane et une vérification d'origine d'IA ne sont pas la même question, et les confondre produit à la fois une fausse confiance et des conclusions injustes. Pour la vérification d'image, un flux de travail pratique ressemble à ceci : vérifiez d'abord les identifiants de contenu C2PA à l'aide d'un lecteur compatible C2PA. La plupart des applications de photos standard n'affichent pas les données C2PA, vous avez donc besoin d'un outil spécifiquement conçu pour les lire. L'outil web Content Authenticity d'Adobe ou tout visualiseur sensible à C2PA peut présenter ces identifiants lorsqu'ils existent. Si des identifiants sont présents et déclarent la génération par l'IA, c'est une conclusion positive solide. Si aucun identifiant n'est trouvé, passez aux détecteurs d'image IA au niveau des pixels – l'étape qui mesure à quoi ressemble l'image plutôt que ce que dit son conteneur de fichier. Pour la vérification de texte, les vérifications basées sur les filigranes sont actuellement limitées par l'écart d'adoption décrit ci-dessus. Jusqu'à ce que les principaux fournisseurs implémentent un filigranage de texte cohérent, l'approche la plus fiable est d'utiliser un détecteur qui mesure les propriétés statistiques du texte lui-même – perplexité, rafales et motifs de distribution qui diffèrent entre l'écriture humaine et l'IA – plutôt que de chercher un filigrane délibérément intégré. Ces détecteurs de signal intrinsèque fonctionnent indépendamment de l'implémentation du filigranage par le système générateur. Lorsque les résultats de vérification seront utilisés pour prendre des décisions importantes – qu'elles soient académiques, légales, professionnelles ou éditoriales – documentez explicitement votre méthodologie. Quel outil avez-vous utilisé ? Quelle version ? Quel résultat a-t-il retourné ? S'appuyer sur un seul outil basé sur une vérification de filigrane ou un détecteur statistique n'est pas une bonne pratique pour les déterminations à enjeux élevés. La vérification croisée d'au moins deux outils indépendants réduit l'impact du taux de faux positifs ou de faux négatifs de tout outil individuel.

1. Pour les images, commencez par un lecteur compatible C2PA pour vérifier les identifiants de contenu signés – les identifiants présents déclarant la génération par l'IA sont une conclusion rapide et définitive
2. Traitez les identifiants absent comme neutre – procédez à la détection d'image IA au niveau des pixels indépendamment du statut des métadonnées
3. Pour le texte, utilisez la détection de texte IA statistique (analyse de perplexité/rafales) comme vérification primaire – plus fiable que la détection de filigrane compte tenu des lacunes d'adoption actuelles
4. Vérifiez au moins deux outils indépendants avant de tirer une conclusion dans les contextes à enjeux élevés
5. Documentez votre méthodologie de vérification : noms d'outils, versions, résultats et date – ceci soutient la prise de décision défendable
6. Appliquez une confiance proportionnée : un fort positif sur plusieurs approches de détection justifie une confiance plus élevée qu'un résultat limite d'un seul outil

Normes de filigrane, adoption et ce qui est réellement déployé aujourd'hui

L'écart entre ce que le filigranage IA peut théoriquement accomplir et ce qui est actuellement déployé en pratique est suffisamment important pour affecter la façon dont vous interprétez les résultats de détection. Du côté image, C2PA a une vraie dynamique. Adobe Firefly, DALL-E 3 et les outils d'image IA de Microsoft intègrent par défaut les identifiants de contenu C2PA. L'Initiative de l'authenticité du contenu a des engagements de grandes organisations de presse, d'entreprises de plateformes et de fabricants de matériel. Les fabricants de caméras, y compris Leica et Sony, ont expédié la signature C2PA au niveau du matériel pour que les photos soient signées à la capture, non après coup. SynthID est déployé dans les outils de génération d'images Gemini de Google, Google Imagen, et s'est étendu à la vidéo et l'audio. Du côté texte, les progrès ont été plus lents. OpenAI a exploré le filigranage de texte en interne et aurait décidé contre le déploiement dans les produits de consommation, en partie en raison de la fragilité des filigranes de texte sous paraphrasage et de la préoccupation que les écrivains désavantagés – locuteurs non natifs, écrivains dyslexiques, ceux qui ont besoin d'outils d'édition assistée – pourraient être disproportionnément marqués. Google a mentionné l'expansion de SynthID au texte dans certains contextes de recherche mais n'a pas mis à disposition largement la détection de filigrane de texte destinée aux consommateurs. Le résultat net est qu'un détecteur de filigrane IA vérifiant les signaux C2PA ou SynthID capturera le contenu des grandes plates-formes commerciales qui ont adopté la norme, et manquera le contenu des modèles open source, des plates-formes qui n'ont pas adopté le filigranage, et tout contenu où les filigranes ont été supprimés ou dégradés. C'est une réalité de couverture, non un échec du concept de filigrane – l'adoption est un processus en cours, et les outils déployés aujourd'hui reflètent où en est l'industrie maintenant, non où se dirigent ces normes.

"C2PA fournit la base pour un web où les médias peuvent porter une provenance vérifiée – mais la valeur s'adapte en fonction du nombre de créateurs et de plates-formes qui participent." — Content Authenticity Initiative, 2024

Comment NotGPT aide à la vérification des filigranes IA et de l'origine

NotGPT propose deux outils de détection pertinents pour la vérification de l'origine de l'IA qui complètent les approches basées sur les filigranes en analysant les propriétés intrinsèques du contenu plutôt que de s'appuyer uniquement sur les signaux intégrés. L'outil de détection d'image IA analyse les images téléchargées au niveau des pixels, en vérifiant les caractéristiques visuelles qui distinguent les images générées par l'IA des photographies – régularité de texture, signatures de domaine de fréquence et modèles de cohérence sémantique. Cette analyse s'exécute indépendamment de la présence ou de la suppression d'un filigrane, ce qui la rend efficace pour les images des plates-formes qui n'ont jamais intégré de filigranes et pour les images dont les métadonnées ont été supprimées. L'outil de détection de texte IA mesure la perplexité, les rafales et les motifs de distribution dans le texte soumis pour estimer la probabilité que le passage ait été généré par l'IA. C'est l'approche qui comble l'écart d'adoption du filigranage de texte : au lieu de rechercher un signal que seuls certains générateurs intègrent, elle lit les empreintes digitales statistiques que tous les LLM actuels laissent dans leurs sorties à des degrés variables. L'utilisation de NotGPT avec une vérification de filigrane dédiée – en particulier un lecteur C2PA pour les images – vous donne à la fois le signal de provenance (le cas échéant) et le signal intrinsèque (qui existe indépendamment de l'utilisation du filigranage). Aucune approche seule ne couvre le problème de vérification complet ; ensemble, elles traitent substantiellement plus de la surface de détection.