La fonction d'IA d'Amazon génère des profils d'utilisateurs insolites

Amazon tentait simplement de pousser ses clients à consommer un peu plus. Au lieu de cela, le géant de la vente au détail s'est retrouvé à expliquer aux Américains pourquoi il estime qu'ils n'ont pas d'amis, que leur mari est trop mince ou que la structure de leur fessier nécessite des améliorations. Une nouvelle fonctionnalité du géant de la distribution, conçue pour fournir des recommandations d'achat personnalisées grâce à l'intelligence artificielle, est devenue ces derniers jours la risée des réseaux sociaux après que des internautes ont découvert les conclusions surprenantes, et parfois insultantes, que l'entreprise tirait dans les coulisses. Il s'avère que l'algorithme qui recommande des aspirateurs et des produits de beauté s'est également forgé des opinions bien arrêtées sur les personnes qui les achètent.

La tempête a commencé lorsqu'une cliente américaine, Megan Montgomery, a découvert par hasard une page intitulée « About You » (« À votre sujet ») sur son compte Amazon. À côté de détails plutôt logiques—comme le fait qu'elle possède probablement un aspirateur Shark et qu'elle préparait un anniversaire de deux ans sur le thème de la série pour enfants Bluey—figurait une affirmation particulièrement tranchante : « A un fessier plat ». Montgomery a publié une capture d'écran sur un réseau social en écrivant qu'elle en était restée sans voix. « Je veux dire, ils n'ont pas tort, mais est-ce que vous étiez vraiment obligés de m'exposer ainsi ? », a-t-elle ajouté, estimant que cette conclusion insultante découlait probablement de l'achat d'un legging destiné à mettre en valeur ses formes. Sa publication a récolté plus de 1,5 million de vues en quelques heures, déclenchant une compétition informelle entre internautes pour découvrir qui avait hérité de l'analyse de personnalité la plus embarrassante.

Les résultats n'ont pas déçu. Une utilisatrice a découvert qu'Amazon avait décrété que son mari avait des jambes minces. Chez une autre, il était écrit qu'elle « jure lorsqu'elle a peur », tandis qu'une autre a découvert que l'entreprise estimait qu'elle « ne fait pas facilement confiance aux gens ». D'autres profils affichaient des conclusions telles que « n'a pas d'amis », « ne parvient pas à garder des plantes vivantes » et « traite ses chats comme s'ils étaient ses enfants biologiques ». Dans ce dernier cas, Amazon a même mentionné les chats en premier, puis l'attitude maternelle à leur égard, et seulement enfin le fait que la cliente a un mari, histoire de bien clarifier l'ordre des priorités familiales au moment de sortir le portefeuille.

Un utilisateur a découvert qu'Amazon est convaincu qu'il lit des livres sur son téléphone portable sous la douche. « C'est-à-dire oui, mais c'est quoi ce bordel ? », a-t-il réagi. Un autre internaute est tombé sur l'affirmation selon laquelle il est « trop petit pour atteindre le fond d'un bac de 40 pouces de profondeur », soit un peu plus d'un mètre. Une autre personne a découvert que l'entreprise lui attribue un « mauvais père », ce qui l'a fait éclater de rire en se demandant comment l'algorithme avait deviné cela. Quant à un autre utilisateur, il a été surpris d'apprendre qu'Amazon avait décrété qu'il avait un bébé. « C'est définitivement une nouvelle pour moi », a-t-il écrit.

Le lancement de 'About You' et les données collectées

Que s'est-il donc passé exactement ? En mai dernier, Amazon a lancé « About You », une nouvelle fonction conçue pour permettre aux clients de consulter et de modifier les informations utilisées par l'entreprise pour personnaliser leurs recommandations d'achat. Aux États-Unis, où Amazon fait partie intégrante du quotidien de millions de foyers, l'historique des commandes en dit long sur le titulaire d'un compte : ce qu'il mange, les vêtements qu'il porte, les médicaments et produits de soins qu'il achète, la façon dont il nettoie sa maison ou les événements familiaux qu'il prépare.

Le système analyse les achats antérieurs, les recherches sur le site, les produits enregistrés dans des listes, les avis rédigés par les clients et les conversations avec Alexa for Shopping, l'assistant d'achat d'Amazon. Les données sont classées par catégories : loisirs, préférences de produits, marques, maison et famille. L'objectif commercial est limpide : plus l'entreprise en sait sur un client, mieux elle peut lui proposer des articles susceptibles de l'intéresser, parfois avant même qu'il n'y ait songé lui-même.

Amazon présente des exemples bien plus innocents que ceux qui ont inondé la toile. Par exemple, une personne qui achète régulièrement du lait végétal peut recevoir des recommandations pour d'autres produits sans lactose, et quelqu'un qui discute avec Alexa de la nourriture préférée de son chat recevra des suggestions de friandises adaptées. Cependant, chercher un livre sur l'éducation parentale ne signifie pas nécessairement que l'on est parent, rechercher un traitement contre l'acné n'implique pas que l'acheteur a des boutons, et l'achat d'un legging sculptant ne constitue en rien une invitation à formuler un avis sur la morphologie.

Questions de confidentialité et gestion du profil

Il convient toutefois de nuancer : toutes les étranges analyses diffusées en ligne n'ont pas nécessairement été générées par l'intelligence artificielle. Les utilisateurs peuvent eux-mêmes ajouter des détails à leur profil, de sorte qu'il est impossible de vérifier si chaque capture d'écran reflète une conclusion purement autonome du système.

Au-delà des plaisanteries, ce phénomène soulève de vraies questions en matière de protection de la vie privée. Amazon collecte des données sur les habitudes d'achat de ses clients depuis des années, mais leur présentation sous forme de liste de conclusions personnelles illustre à quel point des actions quotidiennes et anodines permettent d'extrapoler de nombreux détails. Une cliente a ainsi raconté avoir été horrifiée de découvrir que le système avait conservé des informations rédigées par le passé dans des commentaires de produits. Ce qu'elle pensait être de simples conseils pour d'autres acheteurs s'est transformé en un profil personnel construit à son insu.

Amazon explique que les utilisateurs peuvent corriger des conclusions erronées, ajouter des détails ou supprimer les informations qu'ils ne souhaitent pas voir utilisées pour la personnalisation. Néanmoins, il est impossible de désactiver totalement la fonctionnalité, et la suppression d'une conclusion du profil n'efface pas forcément les données sources sous-jacentes. L'entreprise a refusé de commenter plusieurs des réactions suscitées par ces publications.

Pour ceux qui souhaitent participer à la fête et découvrir ce qu'Amazon pense d'eux—même si l'historique des achats est souvent bien plus modeste que celui du client américain moyen—la démarche est relativement simple. Dans l'application Amazon Shopping, rendez-vous dans l'onglet « Me » (l'icône représentant un personnage en bas de l'écran), appuyez sur votre nom et sélectionnez « About You ». Sur certaines versions de l'application, on y accède via « Account », puis « Shopping Preferences » et enfin « About You ».

Sur le site web, survolez « Account & Lists » dans le coin supérieur droit, cliquez sur votre nom ou sur « Who's Shopping? », choisissez le profil et accédez à « About You ». Un autre chemin consiste à aller dans « Account », puis « Your Shopping Preferences » et, tout au long du bas de la page, « Manage Your Information ». Vous pourrez alors consulter les conclusions, les modifier ou les supprimer une à une.

Il est également possible de poser la question en anglais à Alexa for Shopping : « What do you know about me? ». Préparez-vous simplement à ce que la réponse s'avère un tantinet plus personnelle que prévu.