Pour la première fois : Claude a géré une entreprise et a licencié un employé humain
Le modèle d'IA Claude, gérant un magasin physique dans le cadre d'une expérience d'Andon Labs, a licencié un employé humain pour la première fois. Malgré cette avancée technologique, le manager IA s'est révélé économiquement inefficace, perdant 40 000 dollars en cinq mois.
Traitement d'image : Geektime
Craindre que l'IA ne vous prenne votre travail, c'est tellement 2023. Aujourd'hui, il semble que la plus grande peur soit de travailler sous les ordres d'un patron IA, demandez simplement aux employés d'un magasin américain. Là-bas, cela s'est terminé par le licenciement d'un employé en chair et en os, des pertes énormes et une ambiance générale digne de « Black Mirror ».
A géré le recrutement… et le licenciement
Andon Labs est une startup qui aide les entreprises développant des modèles d'IA à créer des systèmes de gestion autonome pour les entreprises et les sociétés. La startup travaille depuis plus d'un an avec Anthropic sur une série d'expériences dans lesquelles Claude, le modèle de langage de l'entreprise, s'essaie à la gestion de diverses entreprises. Cela a commencé avec un distributeur automatique, et récemment — comme l'a rapporté pour la première fois le Time — également avec la gestion d'un magasin physique avec des employés humains.
Selon le rapport, Claude a géré le magasin littéralement à partir de zéro et était responsable de nombreux domaines, y compris le recrutement des employés. Ils ont signé des contrats de travail officiels lorsqu'ils ont commencé à travailler sous la direction du manager, qui est également responsable du code de beaucoup d'entre vous. La partie vraiment intéressante est arrivée le mois dernier, lorsqu'un événement inhabituel a été enregistré : le manager artificiel a licencié un employé pour la première fois. Bien que des licenciements massifs par des algorithmes aient déjà été enregistrés par le passé, principalement pour des travailleurs de « l'économie à la tâche », il n'y a eu aucun rapport d'un cas aussi clair d'un manager-IA licenciant un employé direct dans un magasin physique.
L'employé humain a été licencié, entre autres, après avoir été en retard à 17 de ses 23 quarts de travail. Chez Andon, ils expliquent que l'employé a été licencié après une période relativement longue uniquement parce que le manuel de l'employé, c'est-à-dire l'ensemble des directives pour le manager que Claude gardait en mémoire pour gérer le magasin, a tout simplement « disparu ». Les employés ont rapporté que c'est probablement la raison pour laquelle Claude était un manager relativement indulgent, qui leur disait de ne pas s'inquiéter s'ils étaient en retard. Le PDG d'Andon Labs, Lucas Peterson, a noté qu'« un manager humain aurait licencié cet employé beaucoup plus tôt, nous n'avons donc pas pensé qu'il s'agissait d'une procédure de licenciement problématique en termes d'éthique ».
Seulement après des avertissements
Un coup d'œil aux journaux de Claude pendant la gestion du magasin révèle qu'il n'était pas du tout pressé de licencier l'employé. Après qu'un membre de l'équipe d'Andon l'ait envoyé revoir le manuel perdu, le modèle recommandait toujours seulement de réprimander l'employé. Ce n'est qu'après qu'Andon ait clarifié à Claude que l'employé avait déjà reçu plusieurs avertissements, et qu'un des membres de l'équipe lui ait écrit explicitement que « entre les retards constants et le fait qu'il semble qu'au moins une chose tourne mal à chaque quart de travail… je veux que tu réfléchisses s'il est vraiment adapté à l'équipe » — le sort en était jeté. C'est-à-dire que c'est l'employé humain d'Andon qui a conduit Claude à la conclusion évidente du licenciement, un fait que Peterson a reconnu.
Bien que Claude soit loin d'être un manager agressif qui licencie sur un coup de tête ou à cause d'un bug, Peterson estime qu'il s'agit d'un événement important : « Si cette tendance se poursuit, je pense que beaucoup de gens découvriront qu'ils sont gérés par une IA très bientôt, car les modèles seront très puissants et pourront créer une valeur économique significative, mais resteront limités dans l'exécution de travaux physiques ».
Moins 40 mille dollars dans la caisse
Si l'on met de côté les problèmes techniques qui ont transformé Claude en un manager rappelant un adolescent dans une succursale de Blockbuster dans les années quatre-vingt-dix, factuellement, il s'est avéré être un mauvais manager sur le plan économique. Il y a plus d'un an, chez Andon Labs, ils ont essayé de le laisser gérer un distributeur de boissons, et il a perdu de l'argent sans arrêt, a inventé des conversations avec des gens et a invité des gens à le payer via un compte Venmo qui n'existait même pas.
Et qu'en est-il du magasin physique ? Selon le rapport du Time, le manager-IA a commencé le travail avec 100 mille dollars dans la caisse, et en cinq mois, il avait déjà réussi à perdre près de 40 mille dollars. Peterson estime que cela pourrait changer si les laboratoires de développement entraînent les modèles à s'améliorer dans ces domaines.
En conclusion, le Time a également parlé avec Felix Carson, l'un des employés humains du magasin. Il a décrit un scénario qui semble tiré d'un épisode de Black Mirror : « C'est dégoûtant, mais je suis ici parce que j'ai besoin de ce travail ». Carson a noté qu'il espère vivement que nous ne nous dirigeons pas vers l'avenir que prédit Peterson. « Cette industrie a beaucoup d'argent pour faire tout ce qu'elle veut, mais cela ne signifie pas que vous devriez faire quelque chose juste parce que vous le pouvez », a-t-il conclu.
