2
Le tout sans lire les messages échangés !
Lire l'article sur The Next Web
Facebook’s using AI to find scammers and imposters on Messenger
En quelques mots :
- Repérer automatiquement les profils suspects. Facebook a mis au point une nouvelle technique pour repérer les comptes factices conçus pour piéger les utilisateurs. Employée sur Messenger, cette méthode recourt à l’intelligence artificielle. Le réseau social utilise des algorithmes qui, sans lire les messages échangés, analysent l’activité des différents comptes pour détecter des anomalies. Par exemple, si un profil ajoute rapidement un grand nombre de comptes sans liens les uns avec les autres, ou envoie une multitude de messages à la suite qui restent sans réponse, l'algorithme identifie un éventuel faux profil. Cette technique non intrusive permet ainsi de lutter contre les spams et les arnaques sans surveiller les conversations de tout le monde.
- Une technique compatible avec le chiffrement de bout en bout. Lorsqu’elle repère un compte suspect, l’intelligence artificielle, au lieu de le bloquer directement, envoie une alerte à l’utilisateur, qui a ensuite la possibilité d’ignorer, bloquer ou signaler le compte. L’alerte s’accompagne de recommandations quant aux précautions à prendre pour éviter les arnaques, afin de protéger les utilisateurs les plus vulnérables. Ne reposant pas sur la lecture des messages, ce dispositif resterait compatible avec le chiffrement de bout en bout que Facebook affirme vouloir instaurer sur Messenger, afin de répondre aux critiques qui lui sont adressées quant au respect de la vie privée des utilisateurs. Il pourrait également être utilisé sur WhatsApp. Testé sur Android depuis mars, le dispositif arrive sur iOS la semaine prochaine.
- Informer plutôt que censurer. Cette approche est similaire à celle employée pour lutter contre la désinformation concernant le coronavirus : les algorithmes d’intelligence artificielle de Facebook identifient certains contenus comme douteux et fournissent des liens vers des sources d’information plus fiables. Le réseau social, tantôt accusé de censurer ses utilisateurs, tantôt de participer à l’essor du conspirationnisme, espère ainsi trouver un difficile équilibre entre la lutte contre la désinformation et le respect de la liberté d’expression.
Guillaume Renouard est journaliste. Basé à San Francisco (Californie), il est spécialisé dans l’économie, l’innovation et les nouvelles technologies. Il a suivi des formations en management (Grenoble Ecole de Management), en journalisme (Science Po Grenoble), et en philosophie (Université Pierre-Mendès-France Grenoble-II).
Lire d'autres articles
