OpenAI va déployer un filigrane invisible dans les textes produits par ChatGPT et Codex au sein de l’Union européenne. Le dispositif textGrain sera activé progressivement dans les prochaines semaines pour les utilisateurs éligibles, tandis que les clients API pourront l’adopter volontairement dès maintenant, selon les informations publiées par The Verge AI. Cette mesure répond aux exigences de transparence de l’AI Act européen et concerne plusieurs dizaines de pays.

Au programme

  • Déploiement progressif de textGrain dans ChatGPT et Codex au sein de l’Union européenne, sur plusieurs dizaines de pays.
  • Activation volontaire pour les clients API partout dans le monde et sur certains modèles.
  • Détection réservée aux chercheurs et organisations agréés, avec accès examiné au cas par cas.

Le filigrane sera intégré aux textes générés par ChatGPT et Codex, sans modifier leur apparence pour le lecteur. OpenAI ne le présente pas comme une preuve d’auteur humain ou comme un outil garantissant la détection de chaque contenu artificiel.

Pourquoi OpenAI déploie-t-il textGrain dans l’Union européenne ?

OpenAI lance textGrain dans l’UE pour répondre aux obligations de l’AI Act concernant l’identification des contenus générés ou manipulés par l’intelligence artificielle. Le déploiement commence auprès des utilisateurs européens de ChatGPT et Codex, sur l’ensemble des formules éligibles, avec une arrivée prévue au cours des prochaines semaines.

La mesure reste régionale. OpenAI ne prévoit pas d’en faire la configuration mondiale par défaut au lancement. Cette approche doit permettre à l’entreprise d’observer les usages et de recueillir des retours avant une éventuelle extension. Le calendrier annoncé concerne donc d’abord un marché de plusieurs dizaines de pays, sans généralisation immédiate à l’ensemble des utilisateurs.

Le choix intervient alors que les obligations européennes poussent également d’autres laboratoires à renforcer la traçabilité des textes générés. OpenAI avait déjà présenté textGrain comme une méthode comparable, dans ses résultats, à des approches telles que SynthID de Google DeepMind. Les détails techniques complets du système ne sont toutefois pas rendus publics.

Comment fonctionnera le filigrane de ChatGPT ?

textGrain ajoute une marque invisible et lisible par machine aux textes produits par certains modèles OpenAI. Le contenu conserve son apparence habituelle, mais un outil spécialisé peut rechercher la signature statistique associée au système.

OpenAI indique que ses tests ont atteint des performances comparables ou supérieures à certaines méthodes concurrentes. L’entreprise souligne toutefois plusieurs limites : un filigrane peut être manqué, tandis qu’un texte humain peut éventuellement déclencher une fausse alerte après modification ou transformation.

La détection ne sera pas ouverte immédiatement au grand public. Les chercheurs et organisations expertes pourront déposer une demande à partir du lancement, puis obtenir un accès examiné au cas par cas. Le résultat indiquera seulement si une marque OpenAI est détectée. Il ne révélera ni l’identité de l’utilisateur, ni ses demandes, ni ses conversations.

Cette séparation entre production et détection rappelle les précautions déjà observées autour des risques sociétaux de l’intelligence artificielle. Elle s’inscrit également dans les réflexions plus larges sur les modèles OpenAI contrôlés par Washington. Un filigrane peut soutenir l’analyse de provenance, mais il ne constitue pas un mécanisme d’authentification absolu.

Qu’est-ce qui change pour les clients API et les entreprises ?

Les clients API situés partout dans le monde pourront choisir d’activer le filigrane pour certains modèles. La fonction sera donc facultative dans l’API, contrairement au déploiement prévu pour les utilisateurs européens éligibles de ChatGPT et Codex.

Cette différence crée 2 niveaux d’application. Les particuliers et organisations utilisant les services grand public dans l’UE recevront progressivement des textes marqués. Les entreprises qui appellent directement les modèles pourront décider d’intégrer cette fonction à leurs propres obligations de transparence.

OpenAI travaille aussi avec des partenaires du cloud afin de rendre le filigrane disponible pour les sorties de modèles consultées par leur intermédiaire dans les prochaines semaines. Le périmètre exact dépendra donc du modèle choisi, du canal d’accès et des réglages adoptés par le fournisseur.

Le sujet concerne directement les agents logiciels capables d’agir seuls. Les projets de portefeuilles contrôlés par des agents IA et les systèmes de paiement automatisés pourraient devoir documenter l’origine de leurs textes, instructions ou justificatifs. Cette question rejoint aussi les travaux d’OpenAI sur la cyberdéfense face à l’IA.

Décryptage

Le choix d’un déploiement européen, plutôt qu’une activation mondiale, montre que le filigrane sert d’abord d’outil de conformité. Sa valeur dépendra moins de son existence que de sa résistance aux réécritures, aux traductions et aux transformations de texte.

Une détection encore limitée par les faux positifs

OpenAI ne promet pas qu’un détecteur identifiera tous les textes marqués. Le système ne pourra pas non plus déduire la qualité d’un contenu, sa véracité, son propriétaire ou le niveau de contribution humaine. Ces limites réduisent la portée d’une lecture trop automatique des résultats.

Le détecteur ne sera donc pas proposé comme un outil public permettant de contrôler n’importe quel document. L’accès réservé aux chercheurs vise plutôt l’évaluation du procédé et son amélioration progressive. OpenAI devra aussi mesurer les effets des réécritures, de la traduction et de la correction humaine sur la signature statistique.

Cette prudence concerne également les usages crypto. Les agents IA capables d’agir on-chain peuvent produire des messages, des rapports ou des ordres dans plusieurs environnements. Une marque de provenance ne suffira pas à établir qu’une transaction est sûre, qu’un contrat est fiable ou qu’une personne a validé l’opération.

Les outils destinés aux paiements automatisés soulèvent la même question. Les agents IA payant en stablecoins devront distinguer la provenance d’un texte de l’autorisation effective d’un transfert ou d’une instruction financière.

Questions fréquentes

Qu’est-ce que textGrain dans ChatGPT ?

textGrain est un filigrane invisible intégré à certains textes générés par ChatGPT et Codex. Il ajoute une signature statistique lisible par machine, sans modifier l’apparence du contenu. OpenAI prévoit son déploiement progressif dans l’Union européenne pour les utilisateurs éligibles, tandis que les clients API pourront l’activer volontairement.

Le filigrane de ChatGPT permet-il de prouver qu’un texte vient d’une IA ?

Non. OpenAI précise que textGrain ne garantit pas une détection fiable et ne permet pas d’identifier l’utilisateur, ses conversations ou la part d’intervention humaine. Une réécriture, une traduction ou une modification peut affecter le résultat. Le dispositif sert donc à analyser une provenance probable, pas à établir une preuve absolue.

Qui pourra utiliser le détecteur textGrain ?

Le détecteur ne sera pas immédiatement accessible au grand public. Les chercheurs et organisations expertes pourront déposer une demande, examinée au cas par cas. L’outil indiquera seulement si une marque OpenAI est détectée. Il ne révélera ni l’identité de l’auteur, ni les instructions utilisées, ni les échanges avec ChatGPT.

À retenir

OpenAI déploiera textGrain dans ChatGPT et Codex pour les utilisateurs européens au cours des prochaines semaines, afin de répondre à l’AI Act. Les clients API pourront l’activer volontairement dans le monde entier pour certains modèles. La prochaine étape sera d’évaluer la fiabilité du détecteur face aux textes réécrits et traduits.

Sources