WhatsApp lance l'outil dont nous avions vraiment besoin à l'ère de l'IA

La fraude en ligne et l'ingénierie sociale sont devenues l'une des principales menaces dans les applications de messagerie, avec plus de 425 millions de dollars volés aux États-Unis seulement par ces méthodes, selon les données de la Federal Trade Commission (FTC). Pour lutter contre ce phénomène, la division ingénierie de Meta a dévoilé le week-end dernier Scam Alert, un nouvel outil de sécurité intégré à l'application WhatsApp. Le système est conçu pour identifier les messages suspects provenant de profils non enregistrés dans les contacts et alerter l'utilisateur, en mettant l'accent sur la protection des populations vulnérables telles que les personnes âgées et les adolescents.

Une protection basée sur l'IA sans compromettre la confidentialité

Contrairement aux outils d'intelligence artificielle (IA) traditionnels qui nécessitent un traitement sur des serveurs cloud, le modèle de Meta fonctionne directement sur le matériel du téléphone mobile (On-Device). Le système scanne les messages entrants et recherche des modèles linguistiques et des structures de conversation caractéristiques des escroqueries connues, sans que le contenu ne quitte l'appareil. Dès qu'une suspicion de fraude est détectée, une alerte discrète apparaît, invisible pour l'expéditeur, permettant à l'utilisateur de bloquer le contact, de le signaler ou de marquer la conversation comme sûre en cas de faux positif.

Le principal défi technique était de fournir une protection sans compromettre le chiffrement de bout en bout. Meta souligne que le contenu des messages n'est envoyé aux serveurs de l'entreprise ou à des tiers à aucune étape du processus. Pour tester l'efficacité du système, Meta ne collecte que des données statistiques anonymes — comme le nombre d'alertes déclenchées — via un mécanisme de confidentialité différentielle (Differential Privacy). Ce mécanisme ajoute un « bruit mathématique » aléatoire aux informations pour empêcher toute possibilité théorique de lier une action à un utilisateur individuel.

Transparence totale et prévention de la surveillance ciblée

Pour éviter les inquiétudes concernant l'utilisation du modèle à des fins de surveillance, Meta prend une mesure inhabituelle et publie les poids du modèle et ses signatures numériques dans un journal de transparence public tiers (Cloudflare). Cette mesure garantit que l'entreprise ne peut pas envoyer une version différente du modèle à un utilisateur spécifique. De plus, les chercheurs en sécurité pourront vérifier le code indépendamment dans le cadre d'un programme de primes aux bugs (Bug Bounty), tandis que les utilisateurs peuvent consulter les journaux de sécurité directement depuis les paramètres du compte.

La nouvelle fonctionnalité est actuellement lancée en version bêta expérimentale pour un nombre limité d'utilisateurs et n'est pas activée par défaut. Les utilisateurs pourront activer ou désactiver la protection à tout moment via le menu de confidentialité de l'application. Cette démarche marque une nouvelle approche technique où de petits modèles de langage fournissent une couche de protection autonome au sein de l'appareil personnel, sans remettre les clés des données privées de milliards d'utilisateurs à travers le monde.