OpenAI intègre des filigranes invisibles pour les utilisateurs de l'UE

OpenAI a annoncé qu'elle ajouterait des filigranes invisibles aux textes générés par ses modèles pour les utilisateurs de l'Union européenne. Cette décision répond aux exigences de la loi européenne sur l'IA, qui impose l'identification claire des contenus générés par des modèles.

Implication Technique et Fonctionnement

Les filigranes seront intégrés par défaut à ChatGPT et Codex dans l'Union européenne dans les semaines à venir. Les clients de l'API du monde entier pourront choisir d'activer ou non cette fonctionnalité.

Lors de nos tests, textGrain a fourni des performances égales ou supérieures à celles des autres approches que nous avons évaluées.

Limites et Contraintes de Précision

L'entreprise a souligné divers scénarios sur le terrain pouvant nuire à l'efficacité, entraînant de faux positifs ou de faux négatifs. Les textes courts s'avèrent plus difficiles à identifier.

• Les textes courts réduisent la fiabilité de la détection.

• Le contenu mathématique présente des taux de détection plus faibles en raison d'un choix de mots rigide.

• Le remplacement de 25 % des mots fait chuter le taux de détection à 17 %.