OpenAI déploie un filigrane textuel invisible dans l'UE pour se conformer à la loi

OpenAI introduit un filigrane invisible pour les textes générés par ChatGPT et Codex dans l'Union européenne, afin de se conformer à la nouvelle loi sur l'intelligence artificielle. La technologie, baptisée textGrain, intègre des signaux statistiques dans le choix des mots.

Signaux invisibles et choix lexicaux

Selon OpenAI, textGrain utilise une clé secrète qui amène le modèle à privilégier certains termes lors de la génération. Ces variations créent des motifs statistiques cachés invisibles à l'œil nu, tout en préservant un style naturel. Les capacités de détection varient toutefois selon la longueur et le sujet. Dans les textes psychologiques, l'outil a détecté les filigranes dans environ 80 pour cent des paragraphes de 200 jetons, et 95 pour cent pour 400 jetons. En revanche, le contenu mathématique offre moins de flexibilité lexicale, réduisant l'efficacité de la détection.

"Le système repose sur des signatures statistiques intégrées au processus de génération, bien que l'édition et la modification du texte puissent altérer considérablement la fiabilité de la détection", a souligné OpenAI.

Limites et portée réglementaire

OpenAI admet que le filigrane n'est pas infaillible. Lorsqu'un utilisateur remplace 10 pour cent des mots sélectionnés par des synonymes, le taux de détection chute de 92 pour cent à 66 pour cent. Remplacer 25 pour cent des mots réduit ce taux à 17 pour cent. Pour l'instant, le déploiement se limite à l'Union européenne.