Union Européenne : OpenAI déploie un filigrane invisible sur les textes générés par ChatGPT dans l’Union européenne
OpenAI a annoncé le 5 octobre, le déploiement progressif d’un filigrane textuel invisible pour ChatGPT et Codex dans l’Union européenne. Baptisée textGrain, cette technologie vise à rendre les textes générés par ses modèles identifiables par les systèmes automatisés, conformément aux nouvelles obligations de transparence de l’AI Act.
OpenAI a annoncé qu’au cours des prochaines semaines, les textes éligibles produits par ChatGPT et Codex dans l’Union européenne intégreront un filigrane invisible. La technologie, baptisée textGrain, ne repose ni sur des caractères cachés ni sur des espaces invisibles.
Elle modifie statistiquement les choix de mots effectués par le modèle afin de créer un signal que son détecteur peut ensuite rechercher. Le lecteur ne voit donc aucune différence particulière dans le texte.
En parallèle, les clients de l’API d’OpenAI pourront, dès à présent, choisir d’activer le filigranage pour certains modèles dans le monde entier. Il restera toutefois désactivé par défaut dans l’API.
Une réponse aux obligations européennes
Cette évolution intervient alors que les obligations de transparence de l’AI Act sont entrées en application le 2 août 2026. L’article 50 impose notamment aux fournisseurs de systèmes d’IA générative de rendre les contenus générés ou manipulés par IA identifiables grâce à des marquages lisibles par machine.
L’objectif européen est notamment de permettre aux systèmes techniques de détecter plus facilement les contenus générés ou manipulés par l’IA et de réduire les risques de tromperie et de manipulation.
OpenAI présente toutefois son dispositif comme une mise en œuvre progressive. L’entreprise souligne que les technologies de filigranage et de détection de texte restent imparfaites.
Une détection qui dépend de la longueur et du contenu
Selon les évaluations communiquées par OpenAI, la fiabilité de la détection varie fortement selon les caractéristiques du texte.
Les textes courts sont notamment plus difficiles à identifier. Pour un taux cible de faux positifs de 1 %, OpenAI indique avoir détecté le filigrane dans environ 80 % des passages de 200 tokens et environ 95 % des passages de 400 tokens dans certains contenus de psychologie.
Les résultats sont moins favorables dans des domaines où le choix des mots est davantage contraint, comme les mathématiques.
La modification du texte constitue également une limite importante. Dans les tests présentés par OpenAI, remplacer une partie des mots par des synonymes réduit fortement le taux de détection.
Ces limites expliquent pourquoi l’entreprise ne prévoit pas, dans un premier temps, de rendre son détecteur accessible au grand public. L’accès sera réservé à des chercheurs agréés et à des organisations spécialisées afin d’évaluer la technologie et ses usages.
Un filigrane ne permet pas d’identifier un auteur
OpenAI insiste également sur ce que son dispositif ne permet pas de déterminer. La présence d’un filigrane peut indiquer qu’un système OpenAI a généré ou traité une partie d’un texte, mais elle ne mesure pas la contribution humaine. Elle ne permet pas non plus de déterminer à qui appartient le texte, qui en est juridiquement responsable ou si son utilisation était légale. Le filigrane ne permet pas davantage d’identifier l’utilisateur, son compte, sa conversation ou les instructions adressées au modèle.
Enfin, l’absence de filigrane détecté ne constitue pas une preuve qu’un texte a été écrit par un humain. Une modification, une traduction ou simplement la brièveté du passage peuvent rendre le signal difficile à détecter.
Une approche fondée sur plusieurs signaux
Pour OpenAI, le filigranage du texte s’inscrit dans une stratégie plus large de provenance des contenus.
Pour les images et l’audio, l’entreprise combine notamment des identifiants de contenu conformes au standard C2PA et des filigranes invisibles SynthID, avec des outils permettant aux organisations de vérifier certains contenus.
Cette approche repose sur l’idée qu’aucune technologie de provenance ne peut, à elle seule, garantir une identification parfaite. Les métadonnées peuvent être supprimées lors d’une modification de fichier, tandis que les filigranes peuvent perdre leur fiabilité après certaines transformations.
Une technologie encore appelée à évoluer
OpenAI prévoit de poursuivre les travaux sur textGrain, notamment pour évaluer sa résistance à la réécriture et à la traduction. L’entreprise indique également vouloir publier la technologie en open source afin que d’autres acteurs puissent l’étudier et s’appuyer dessus.
Le déploiement européen constitue ainsi une première étape plutôt qu’un dispositif présenté comme définitif. OpenAI indique vouloir adapter son approche en fonction de l’évolution de la technologie, des normes et des exigences réglementaires.
Pour l’Union européenne, l’enjeu dépasse la seule identification technique des textes générés par l’IA : il s’agit de permettre aux utilisateurs et aux plateformes de mieux comprendre l’origine des contenus, sans transformer un signal technique en preuve automatique de leur auteur, de leur responsabilité ou de leur véracité.