OpenAI va déployer dans les prochaines semaines un filigrane invisible sur les textes générés par ChatGPT et Codex exclusivement dans l’Union européenne. Cette signature numérique, conçue pour rendre les contenus produits par l’IA plus facilement identifiables, s’inscrit dans le cadre des obligations imposées par l’AI Act.
Par Yakout Abina
OpenAI franchit une nouvelle étape dans l’identification des contenus générés par intelligence artificielle. L’entreprise américaine a annoncé l’arrivée prochaine d’un filigrane invisible sur les textes produits par ChatGPT et Codex au sein de l’Union européenne. Le dispositif sera déployé au cours des prochaines semaines pour l’ensemble des utilisateurs, qu’ils utilisent la version gratuite ou payante des services.
Cette initiative s’inscrit dans le cadre de l’AI Act, le règlement européen consacré à l’intelligence artificielle. Depuis l’entrée en vigueur de certaines dispositions du texte, les fournisseurs d’IA générative sont tenus de mettre en place des mécanismes permettant d’identifier les contenus créés par leurs modèles. OpenAI entend ainsi répondre aux exigences réglementaires européennes tout en testant l’efficacité de sa solution avant un éventuel déploiement à plus grande échelle. L’entreprise précise d’ailleurs que ce marquage n’est pas destiné, pour le moment, à devenir un paramètre mondial par défaut.
Baptisée text Grain, la technologie repose sur un principe différent de celui d’un filigrane classique. Aucun symbole caché, aucune ligne de code ni aucune mention visible n’apparaîtront dans les textes générés. Le système introduit plutôt un signal statistique imperceptible dans les choix de mots réalisés par le modèle lors de la rédaction.
Concrètement, lorsqu’une intelligence artificielle produit une phrase, elle sélectionne chaque mot parmi plusieurs possibilités. Avec text Grain, OpenAI oriente discrètement certains de ces choix grâce à une clé secrète connue uniquement de l’entreprise. Selon OpenAI, ce procédé n’altère ni le sens ni la qualité des textes produits.
La société affirme que text Grain offre des performances comparables, voire supérieures à celles d’autres solutions de marquage existantes, telles que SynthID de Google. Elle reconnaît néanmoins que la technologie reste imparfaite. L’efficacité de la détection diminue notamment lorsque les textes sont courts, traduits ou modifiés par un utilisateur. Remplacer seulement 10 % des mots par des synonymes suffit ainsi à réduire fortement les capacités de détection.
Open AI souligne également que l’absence de filigrane détecté ne constitue pas une preuve qu’un texte a été rédigé par un humain. Comme les détecteurs d’IA actuellement disponibles sur le marché, text Grain ne garantit donc pas une certitude absolue. Sur le plan de la confidentialité, l’entreprise assure que le marquage ne contient aucune information permettant d’identifier les utilisateurs. Le système n’associe ni compte, ni requête, ni historique de conversation au document généré.
Dans un premier temps, l’outil de détection sera réservé aux chercheurs et aux organisations spécialisées afin d’évaluer la robustesse du dispositif avant une éventuelle ouverture au grand public. Les développeurs peuvent déjà activer cette fonctionnalité sur certains modèles d’IA, bien qu’elle reste désactivée par défaut.
Avec ce déploiement, OpenAI se conforme aux dispositions de l’AI Act, qui impose aux fournisseurs d’IA générative de rendre leurs contenus identifiables par des moyens techniques. Les principaux acteurs du secteur, dont Google, Meta, Microsoft et Anthropic, disposent jusqu’au 2 décembre 2026 pour se mettre pleinement en conformité avec la réglementation européenne.
Y.A
