Facebook a dévoilé un nouvel outil alimenté par l’IA pour l’aider à lutter contre les faux comptes et le spam.

Connu sous le nom de Deep Entity Classification (DEC), cet outil d’apprentissage automatique peut non seulement identifier les faux comptes, mais est également capable d’analyser les comptes actifs et d’étudier le comportement des utilisateurs au sein de la communauté Facebook.

La société affirme avoir déjà utilisé la DEC pour supprimer plus de 6,6 milliards de faux comptes l’année dernière, ainsi que pour bloquer des millions de tentatives de création de nouveaux comptes.

Facebook a ajouté que DEC les a aidés à réduire de 27% le nombre de faux comptes et d’arnaques sur son système.

La société estime que près de 5 % des 2,89 milliards d’utilisateurs de ses comptes mensuels enfreignent ses politiques, généralement par le biais du spam ou de l’utilisation d’escroqueries par hameçonnage pour tenter de voler de l’argent ou des informations personnelles sensibles.

DEC va au-delà des informations générales telles que la date de création du compte ou le nombre de demandes d’amis envoyées pour examiner également des attributs plus complexes comme les pages que le profil d’un utilisateur a aimées, les groupes qu’il a rejoints pour essayer d’identifier l’authenticité d’un profil.

Facebook affirme que le DEC est capable d’analyser plus de 20 000 caractéristiques par profil, et pourrait bien jouer un rôle essentiel dans les prochaines élections présidentielles aux États-Unis.

L’entreprise a déjà identifié des profils de pays comme la Russie, l’Iran, le Myanmar et le Vietnam qui ont utilisé la plateforme pour influencer les comportements de vote et les récits d’actualité.