OpenAI emploie des sous-traitants pour analyser les chats des utilisateurs
Une enquête révèle qu'OpenAI emploie des centaines de sous-traitants dans le cadre du Projet Nightly pour analyser les conversations des utilisateurs afin d'améliorer ChatGPT.
OpenAI emploie des centaines de sous-traitants pour examiner les invites et l'historique des conversations des utilisateurs dans le cadre d'une initiative jusqu'ici secrète baptisée Projet Nightly, selon une récente enquête de 404Media.
Dans les coulisses du Projet Nightly
Le rapport révèle que l'entreprise utilise des travailleurs contractuels pour analyser les requêtes soumises à ChatGPT, dans le but d'améliorer les réponses du modèle et d'éliminer le flagornerie excessive. Alors que la politique de confidentialité d'OpenAI indique que les examens humains sont généralement réservés aux incidents de sécurité, des guides internes divulgués montrent des sous-traitants évaluant des contextes conversationnels complets, incluant des détails personnels sensibles.
Les sous-traitants sont formés pour résumer l'intention de l'utilisateur, évaluer la tonalité des réponses et signaler les anomalies, telles qu'une utilisation inappropriée des émojis. Bien que les noms d'utilisateurs soient retirés, les invites contiennent fréquemment des informations personnelles identifiables.
"Une excellente réponse doit comprendre l'intention de l'utilisateur, fournir des informations précises et utiles, et être rédigée dans un style clair, naturel et agréable." — Guide interne d'OpenAI
Rémunération et contexte
Selon l'enquête, les sous-traitants en Amérique du Nord sont rémunérés plus de 50 dollars de l'heure par l'intermédiaire de firmes de recrutement telles que Mercor. Bien qu'OpenAI affirme que des filtres de confidentialité automatisés sont appliqués, l'entreprise reconnaît dans sa documentation que ces filtres peuvent parfois échouer à masquer des informations sensibles.
Comment désactiver cette option
Les utilisateurs soucieux de leur vie privée peuvent désactiver l'examen humain en modifiant les paramètres de leur compte. En désactivant l'option "Améliorer le modèle pour tout le monde" dans les réglages de ChatGPT, il est possible d'empêcher l'examen futur des requêtes par des sous-traitants.
