L'utilisateur a demandé, l'intelligence artificielle a exécuté : qui porte la responsabilité ?

Aux États-Unis, une plainte a été déposée contre la société xAI, appartenant à Elon Musk, à laquelle s'est jointe une jeune femme qui affirme que son beau-père a utilisé l'application d'intelligence artificielle pour créer des images pornographiques basées sur des photos qu'il avait prises lorsqu'elle était enfant.

Ce n'est pas la première implication de Musk dans une plainte de ce type : il y a quelques mois, Musk et « Grok » ont été accusés d'avoir permis aux utilisateurs de Twitter (X) d'utiliser le logiciel pour créer des images sexuelles basées sur des photos ordinaires d'enfants.

Au moins dans le cas de la jeune femme du Wyoming, infirmière de profession, la publication a eu des effets dévastateurs au-delà de l'embarras personnel et familial. Il semble qu'il n'y ait aucune contestation sur l'ampleur des dommages, et encore moins sur la détresse émotionnelle subie par les victimes. La question est de savoir si les entreprises de Musk ou les entreprises technologiques en général devraient être tenues responsables du préjudice subi par ceux qui sont devenus des objets pornographiques contre leur gré.

Cette question est fascinante, non seulement parce qu'elle aura des conséquences considérables, à l'échelle de centaines de milliards de dollars pour l'industrie de l'intelligence artificielle, mais parce qu'elle met en débat des questions philosophiques du domaine de la morale et du droit auxquelles nous n'avons pas eu à faire face par le passé.

Commençons par ce qui ne fait pas l'objet de contestation : le degré de responsabilité de ceux qui falsifient et diffusent le contenu pornographique. Ils sont certainement coupables, mais la technologie qui les a servis doit-elle également porter une responsabilité ?

Apparemment, la réponse immédiate et simple est « non ». Lorsqu'une personne est poignardée à mort, on poursuit l'agresseur, et non le couteau qui a permis de commettre le crime. Il en va de même pour une arme à feu ou tout matériel ayant permis de nuire physiquement à une autre personne. Mais que se passe-t-il lorsque ce qui n'est censé être qu'un outil pour commettre un crime inclut non seulement l'exécution mais aussi la planification ? Et même alors, où se situe exactement la limite qui impose une partie de la faute aux propriétaires du logiciel ?

Voiture de sport

Pour les besoins de la discussion, passons un instant à une étape intermédiaire, avec un outil dont les caractéristiques permettent un peu plus qu'un coup de couteau ou un coup de feu. Il s'agit d'un véhicule. Nos voitures peuvent accélérer jusqu'à une vitesse proche de 200 km/h. Il est clair qu'à une telle vitesse, presque tout accident sera mortel, alors pourquoi ne pas imposer une partie de la responsabilité aux constructeurs automobiles ? Non seulement ils ne produisent pas d'outils qui permettent au niveau de risque de dépasser le niveau de sécurité — par exemple, un châssis qui résisterait même à une collision frontale à grande vitesse, mais ils cultivent même, à l'aide de la publicité et des relations publiques, un système qui encourage parfois la conduite imprudente.

Car que sont ces performances attendues de la voiture sportive et du conducteur, si ce n'est une invitation à tester les limites des capacités des deux ? Et pourtant, bien qu'à première vue il puisse y avoir une contribution aux conditions permettant des accidents de la route, les constructeurs automobiles ne sont pas poursuivis comme étant la cause des accidents de la route, mais seulement en cas de défaillance technique prouvée, dont le fabricant est responsable.

Il est donc impossible de poursuivre un fabricant de couteaux, d'armes à feu et de véhicules, car sinon, on pourrait poursuivre le fabricant de presque tout : un attendrisseur à viande, une batte de baseball, un sèche-cheveux jeté dans une baignoire et tous ces moyens de tuer moins courants que nous voyons dans les films hollywoodiens.

Complice du crime

Passons maintenant à ceux qui peuvent être poursuivis dans de tels cas — et nous ne parlons pas seulement du cerveau du crime, mais aussi de celui qui l'a exécuté. Il est clair qu'on ne peut pas poursuivre un fabricant d'armes, mais on peut poursuivre celui qui a appuyé sur la détente, même s'il s'agit d'un meurtre commandé par quelqu'un d'autre. Et c'est une bonne chose, car sinon, les tueurs à gages seraient exemptés de culpabilité et de peine simplement parce qu'ils ont commis un meurtre pour le compte d'un tiers.

C'est-à-dire que dans de tels cas, tant le commanditaire du crime que l'exécutant sont traduits en justice : car le premier a initié l'infraction, mais l'exécutant a planifié le moyen et le moment, ou du moins a appuyé sur la détente — et est ainsi devenu un complice à part entière du crime, sans lequel il n'aurait pas été commis.

Et c'est exactement l'argument de ceux qui poursuivent les applications d'intelligence artificielle qui permettent de créer de la pornographie à partir de photos ordinaires. Selon eux, il ne s'agit pas d'un couteau, d'une arme à feu ou même d'une voiture, mais de complices à part entière du crime, comme des tueurs à gages.

Pour ceux qui ne connaissent pas les secrets de l'IA et se demandent ce que cela a à voir avec le logiciel Photoshop, par exemple, puisqu'il peut aussi être utilisé pour falsifier de la pornographie, eh bien, la différence ne réside pas seulement dans l'apparence, mais dans le degré de complicité dans le crime.

Dans les logiciels de traitement d'image (comme Photoshop), l'opérateur du logiciel doit effectuer le traitement de ses propres mains et par instruction directe au logiciel en cliquant avec la souris. En revanche, dans l'IA, c'est le logiciel qui crée l'image finale, non pas par une action explicite de l'utilisateur mais de manière apparemment indépendante, en fonction de ses intentions telles qu'il les interprète. Je peux prendre n'importe quelle photo existant sur le réseau — et à l'ère des plateformes sociales, nous avons presque tous des photos que nous avons téléchargées depuis des vacances, un restaurant, le travail, etc. — et demander au logiciel de lui donner une interprétation pornographique.

C'est exactement ce que visent les plaignants, affirmant que l'application, dans ce cas, n'est pas seulement un outil mais un partenaire actif dans le processus, de l'étape de planification à l'étape d'exécution. Ont-ils raison ? Indépendamment du verdict, qui prendra évidemment encore de nombreuses années, il s'agit d'une question philosophique fascinante, puisque l'intelligence artificielle, contrairement au cerveau humain, n'a aucune intention malveillante. Alors qu'elle produit une image pornographique à partir de la photo de la victime, elle n'a aucune capacité à comprendre qu'elle est partenaire d'un acte répréhensible.

Il ne s'agit que du début de la discussion, qui soulève des questions philosophiques qui n'existaient pas avant l'ère de l'IA, ce qui signifie que les juges n'auront aucun précédent sur lequel s'appuyer. Admettez que c'est assez étonnant : une réalité dans laquelle non seulement les dommages causés à l'âme ou à la réputation des victimes sont placés sur la balance de la justice, mais aussi les conséquences de centaines de milliards de dollars pour l'un des secteurs technologiques les plus rentables.

Je ne prétends évidemment pas trancher, mais seulement constater deux faits : le premier est que l'intelligence artificielle peut être une épée à double tranchant, mais il est impératif de se rappeler qu'il s'agit d'un excellent outil auxiliaire qui simplifie et rend accessible à la population générale une excellente technologie.

Le second fait est que les plaintes déposées contre les propriétaires d'outils d'intelligence artificielle ne sont que les premières hirondelles du genre qui occuperont les tribunaux dans les années à venir. Leur traitement nécessitera une approche qui permettra de changer l'eau du bain, sans jeter le bébé avec l'eau du bain.