Apple supprime une application de nudité par IA promue via une campagne payante sur Meta

Apple a supprimé de l'App Store Kromix, une application qui, selon un rapport de WIRED, permettait de créer des deepfakes pornographiques basés sur l'intelligence artificielle de personnes réelles. Selon le rapport, Meta a mené une campagne pour l'application, et l'une des publicités présentait une femme ressemblant à une femme politique américaine de haut rang.

« Nous avons toujours strictement interdit les applications conçues pour créer, distribuer ou consommer de la pornographie », a déclaré Apple à WIRED. « Les applications de "déshabillage" sont contraires à nos directives de l'App Store, et nous agissons de manière agressive pour identifier et supprimer les applications, ainsi que les comptes de développeurs qui les sous-tendent, qui tentent de contourner nos processus et nos politiques. »

Selon le site WIRED, l'application Kromix se présentait comme un styliseur d'images par IA, mais l'une de ses publicités vidéo indiquait qu'elle n'avait aucune restriction, que tous les personnages étaient des personnes réelles et qu'il s'agissait d'une IA que les hommes utilisent réellement. Dans cette même publicité, une femme ressemblant à une femme politique américaine de haut rang était vue sur fond de drapeau américain et de drapeau présidentiel, accompagnée de la légende « Et si elle bougeait ? ». Elle a ensuite fait un clin d'œil, et la publicité est passée à une scène où une femme avec le même visage apparaît dans une vidéo pornographique.

Selon le rapport, les deux sociétés, Meta et Apple, ont agi après que WIRED les a contactées pour obtenir des commentaires : Apple a supprimé Kromix du magasin et Meta a retiré la campagne. La campagne comprenait 32 publicités destinées uniquement aux utilisateurs masculins.

Apple a répondu en disant que Kromix avait ajouté le contenu et les capacités interdits après avoir passé l'examen initial de l'App Store. Cela ressemble à la réponse fournie par Apple le mois dernier après que le procureur de la ville de San Francisco, David Chiu, a exigé qu'elle supprime huit applications de « déshabillage » du magasin.

WIRED a également rapporté que Kromix n'est pas la seule application de ce type qu'Apple a récemment supprimée à la suite d'une demande du site. Dans une autre enquête, WIRED a découvert que plusieurs publicités problématiques sur Meta menaient à MaskAI, une application sur le magasin d'Apple qui permettait de manière similaire de télécharger des photos et d'échanger les visages des personnes dans des situations sexuelles. Apple a également supprimé MaskAI après que WIRED a demandé des commentaires.