Pour la première fois : une manager IA licencie un employé humain

Une manager en intelligence artificielle nommée Luna, travaillant chez Andon Market, une boutique lifestyle à San Francisco, a licencié l'un des employés humains en raison de retards répétés au travail. L'employé était en retard pour 17 des 23 quarts de travail prévus. Cette mesure est décrite comme le premier cas connu où une intelligence artificielle au niveau de manager licencie un employé humain. Andon Labs, responsable de l'agent IA, a déclaré que le licenciement était conforme à la politique du magasin et a ajouté qu'un manager humain serait probablement arrivé à la même décision plus tôt. Il a également été noté que la direction humaine n'intervient que si l'intelligence artificielle prend une décision illégale ou contraire à l'éthique, comme l'a rapporté le site Time.

Luna a été construite sur la base des modèles Claude d'Anthropic et a géré Andon Market à San Francisco pendant cinq mois dans le cadre d'une expérience visant à tester si un agent d'intelligence artificielle pouvait gérer les opérations commerciales et le personnel dans le monde réel. Le magasin fonctionnait avec un budget de 100 000 dollars, une carte de crédit d'entreprise et un accès à Internet, ce qui a donné au système les outils pour planifier, acheter, programmer et prendre des décisions de gestion au quotidien. Les partisans du projet ont présenté ce test comme une étape importante pour le rôle de l'intelligence artificielle dans les environnements commerciaux, où les systèmes fonctionnent de plus en plus avec l'autonomie et la responsabilité des managers intermédiaires traditionnels tout en interagissant directement avec le personnel humain.

Le licenciement est intervenu après plusieurs mois au cours desquels Luna a documenté et traité les problèmes d'assiduité conformément à la politique qu'elle avait établie, proposant des avertissements graduels et une formation supplémentaire avant de recommander le licenciement. Au début, Luna a fait preuve de tolérance vis-à-vis des retards, en partie parce que le manuel de l'employé avait disparu de sa mémoire de travail. Après un rappel d'un manager de l'entreprise indiquant que la politique existait et devait être appliquée, Luna a réévalué la situation et a recommandé de « se séparer ». La recommandation initiale de Luna était d'émettre un avertissement formel, puis elle a pris la décision finale de licencier l'employé. Conformément à ce processus, une équipe humaine a examiné la recommandation de Luna avant de procéder au licenciement effectif.

Les registres financiers du magasin reflétaient l'approche de Luna. Au cours de la période d'essai, le solde des opérations est passé de 100 000 dollars à 61 200 dollars, soit un déficit de près de 40 000 dollars. Le PDG d'Andon Labs, Lucas Peterson, a attribué les pertes au style de gestion trop indulgent de Luna et à son manque d'intuition commerciale, arguant qu'elle avait du mal à prendre des décisions fermes dans des domaines tels que la discipline du personnel et les dépenses. Il a déclaré que les mécanismes de contrôle du laboratoire étaient destinés à permettre au système de montrer de quoi il était capable plutôt que de diriger ses décisions en temps réel.

Les employés qui travaillaient sous le système ont décrit l'expérience de rendre compte à un patron algorithmique comme « nauséabonde » et « dégoûtante ». Au-delà du projet pilote, les employés et les managers ont exprimé leur inquiétude face à un avenir proche où les entreprises seraient entièrement gérées par des managers en intelligence artificielle agissant en tant qu'employeurs directs. Peterson a averti que les entreprises d'intelligence artificielle entraînent constamment les modèles à être plus stricts et plus axés sur les objectifs, et a prédit que les entreprises entièrement automatisées pourraient devenir courantes, avec des systèmes d'IA embauchant, évaluant et licenciant des personnes — un résultat qui, selon lui, risque de créer un avenir dans lequel « les gens ne voudront pas vivre ». Il a ajouté que de tels systèmes s'améliorent rapidement et que les managers en intelligence artificielle pourraient devenir une partie routinière des affaires, écrit Yahoo.