Précédent : une entreprise a laissé l'IA gérer l'activité – et elle a renvoyé un employé

Une première expérience du genre dans le monde du travail offre un aperçu troublant de l'avenir des relations de travail à l'ère de l'intelligence artificielle. Selon une enquête exclusive du magazine TIME, la startup de recherche Andon Labs a confié la gestion quotidienne d'un magasin de détail à San Francisco, appelé Andon Market, à un agent d'IA basé sur le modèle Claude de la société Anthropic. Le modèle, qui a reçu des pouvoirs de gestion complets sur de vrais employés humains ayant des contrats de travail officiels, a pris la décision sans précédent de licencier l'un des membres du personnel.

Un manager clément qui oublie le règlement

L'employé licencié avait accumulé 17 retards sur 23 quarts de travail. Étonnamment, les journaux de gestion révèlent que le modèle d'IA s'est avéré être un manager particulièrement doux et indulgent, encourageant même les employés à « ne pas stresser » à cause des retards. La raison en était une limitation technologique de la mémoire : le règlement disciplinaire que le modèle avait lui-même rédigé avait tout simplement été effacé de sa mémoire de travail. Ce n'est qu'après qu'un membre humain de l'équipe lui a demandé de réexaminer le règlement et a posé des questions orientées sur l'adéquation de l'employé que Claude a pris la décision finale de le licencier.

Les employés du magasin dépeignent une image complexe du travail sous un patron numérique. Felix Carson, un employé humain du magasin, a décrit l'expérience comme nauséabonde mais a admis qu'il avait besoin de ce revenu. Parallèlement, l'expérience commerciale est loin de prouver sa rentabilité : le solde du compte du magasin est passé de 100 000 dollars au début à seulement 61 000 dollars environ, en partie à cause de décisions de gestion du modèle dépourvues de sens des affaires.

L'avenir menaçant du monde du travail

Le PDG d'Andon Labs, Lucas Peterson, prévient que la situation actuelle pourrait changer rapidement. Selon lui, tout comme les entreprises d'intelligence artificielle ont amélioré leurs modèles dans l'écriture de code, elles les entraîneront à devenir des managers plus pointus et même plus impitoyables afin d'atteindre des objectifs commerciaux stricts.

« Si nous leur permettons de licencier des gens et qu'ils deviennent plus impitoyables, cela pourrait être un avenir dans lequel les humains ne voudront pas vivre », a souligné Peterson.

Alors qu'il y a eu par le passé des cas de licenciements automatiques dans des applications de livraison utilisant des algorithmes secs, c'est la première fois qu'un grand modèle de langage prend une décision discrétionnaire et licencie un employé sans intervention humaine. Le précédent de San Francisco soulève un grand point d'interrogation autour de la souveraineté numérique et de la protection des droits des travailleurs dans un monde où la ligne de profit sera gérée par des lignes de code.