OpenAI dévoile une opération d'influence iranienne utilisant l'IA

OpenAI a démantelé une opération d'influence originaire d'Iran qui a réussi à insérer environ 100 articles dans des médias mondiaux en utilisant de fausses identités de journalistes et des outils d'intelligence artificielle.

Une campagne d'influence via ChatGPT

Selon le rapport publié par OpenAI, les opérateurs ont exploité ChatGPT pour rédiger des articles critiquant la politique américaine, préparer des propositions de publication et générer des commentaires destinés à imiter de vrais utilisateurs. Suite à cette découverte, la société a bloqué les comptes associés à cette activité malveillante.

Environ une douzaine de médias à travers le monde ont publié le contenu soumis sous les noms de sept journalistes fictifs. Les opérateurs du réseau ont utilisé l'interface en persan de ChatGPT pour affiner les textes et promouvoir des messages critiques.

Diffusion médiatique et faux profils

Parmi les titres identifiés par OpenAI figurent des articles remettant en question la politique étrangère américaine. Bien que les grands médias généralistes n'aient pas été ciblés, des plateformes secondaires dotées d'un public important sur les réseaux sociaux ont publié ces contenus.

« Il est remarquable que les Iraniens aient réussi à introduire leur contenu dans de véritables médias, élargissant ainsi la portée potentielle de leur campagne », a déclaré Jessica Brandt, ancienne responsable américaine.

OpenAI a précisé que l'opération comprenait également la génération de commentaires coordonnés sur les réseaux sociaux afin de façonner l'opinion publique.