Le côté obscur de l'IA : que fait l'intelligence artificielle pendant que nous dormons ?

Ces dernières années, et plus encore avec le développement rapide des outils d'intelligence artificielle, la technologie est passée des laboratoires de recherche à presque tous les domaines de notre vie. Mais parallèlement à la capacité d'écrire, de créer des images, d'analyser des informations et de rationaliser le travail, son côté dangereux est également révélé : il existe déjà des outils d'IA capables de créer des faux vocaux et visuels particulièrement convaincants, des entreprises examinent comment la technologie modifiera leur main-d'œuvre, et les systèmes de sécurité sont confrontés à la question de savoir quelle autorité peut être déléguée à un algorithme. Des recherches et des données de ces dernières années montrent que les dangers ne sont pas tous des scénarios futuristes – certains sont déjà devenus réalité.

L'une des affirmations les plus troublantes concernant l'IA concerne ce qui se passe sur les appareils personnels lorsque leurs propriétaires ne les utilisent pas. Les téléphones modernes effectuent effectivement des actions en arrière-plan, et les entreprises technologiques utilisent également le traitement local – c'est-à-dire des actions qui sont effectuées à l'intérieur de l'appareil et pas nécessairement sur un serveur externe.

L'une des méthodes est l'« apprentissage fédéré » (Federated Learning), grâce auquel il est possible d'améliorer les modèles sans transférer toutes les données brutes de l'utilisateur vers un centre. L'idée est que l'appareil effectue lui-même une partie du processus d'apprentissage et partage les résultats ou les mises à jour nécessaires pour améliorer le système.

Cependant, il faut ici distinguer la technologie réelle des affirmations pour lesquelles aucun soutien suffisant n'a été trouvé. Je n'ai pas trouvé de base fiable pour le chiffre selon lequel un appareil moyen envoie chaque nuit « 20 à 40 mégaoctets de profil psychologique et commercial », ni pour le fait que les téléphones analysent systématiquement les messages et photos privés la nuit pour construire un profil de personnalité afin d'entraîner de grands modèles d'IA. Il est donc incorrect de présenter de telles affirmations comme un fait.

De même, concernant les affirmations sur l'« écoute active » à des fins publicitaires, il faut se méfier d'une détermination générale selon laquelle le téléphone écoute régulièrement la chambre à coucher, analyse la toux ou les conversations et prépare des publicités en conséquence. C'est une affirmation dramatique qui nécessite des preuves plus solides.