WhatsApp lance une nouvelle fonctionnalité de protection contre les escrocs basée sur l'IA

Les messages de spam et les escrocs ne sont plus l'apanage des SMS traditionnels et ont trouvé leur chemin jusqu'à WhatsApp. Meta annonce désormais une nouvelle arme dans la lutte contre la fraude : une fonctionnalité intelligente basée sur l'IA qui vous avertit en temps réel. Voici comment cela fonctionne sans compromettre le chiffrement de l'application.

Une alerte avant toute perte financière

Meta a lancé sur WhatsApp une fonctionnalité baptisée Scam Alert pour aider à gérer les messages frauduleux. Selon le blog de la division ingénierie de Meta, l'entreprise a travaillé sur cet outil pour protéger les utilisateurs les plus vulnérables, comme les enfants ou les personnes âgées.

« Si le modèle identifie un message probablement frauduleux, un avertissement apparaît pour l'utilisateur au sein de la conversation, invisible pour l'autre partie. L'utilisateur peut alors choisir de bloquer l'expéditeur, de signaler le message ou de poursuivre la conversation », explique Meta. Si le système commet une erreur, l'utilisateur peut définir le message comme « sûr », et l'avertissement disparaîtra.

Bien que la fonctionnalité utilise l'IA, Meta souligne que le modèle fonctionne localement sur les appareils et non dans le cloud. Le contenu des messages ne quitte jamais l'appareil, et la fonctionnalité peut être désactivée à tout moment.

Selon la Federal Trade Commission, rien qu'aux États-Unis, des escrocs ont réussi à voler 425 millions de dollars via l'application de messagerie de Meta.

---

Chiffrement de bout en bout préservé

Meta précise que le modèle repose sur une classification probabiliste de la structure des conversations et sur des « signaux linguistiques » — des modèles que l'IA reconnaît dans la structure du texte. Le modèle a été entraîné sur la base de cas de fraude signalés par les utilisateurs.

Pour vérifier l'efficacité de la fonction sans lire les messages, Meta ne collecte que des données statistiques via un système d'analyse sécurisé. Le système ajoute du « bruit mathématique » aux données, une valeur numérique aléatoire empêchant l'identification d'un utilisateur spécifique. Meta souligne qu'il n'a aucun moyen d'accéder aux informations brutes, c'est-à-dire à vos messages.

Pour assurer une transparence totale, chaque version du modèle est enregistrée dans un journal public, et Meta publiera les poids du modèle afin que les chercheurs en sécurité puissent vérifier indépendamment que l'outil est uniquement destiné à la détection de la fraude. Les utilisateurs pourront consulter dans l'application les données exactes qui ont été partagées.