fbpx

Facebook fait équipe avec Microsoft et plusieurs universités pour améliorer la détection des deepfakes

Par

le

Facebook va travailler avec Microsoft et plusieurs universités pour lutter contre les deepfakes, de plus en plus populaires.

Le phénomène deepfake, où l’image et la vidéo sont manipulées à l’aide du machine learning, en est encore à ses débuts, et jusqu’à présent, les gens ont surtout produit des créations bénignes dont nous pouvons tous rire et nous amuser. Cependant, comme avec toute autre nouvelle technologie, il y a toujours le risque que cela puisse créer plus de problèmes qu’elle n’en résout. Il est intéressant de noter que Facebook cherche à effacer une partie de la mauvaise publicité récente avec un nouvel effort pour se préparer à des situations dans lesquelles des deepfakes très réalistes peuvent avoir un impact négatif, comme alimenter des campagnes de désinformation.

Les Deepfakes deviennent tellement convaincants qu’il est devenu difficile de distinguer la différence entre les photos et vidéos originales et le contenu fabriqué à l’aide d’algorithmes. Facebook sait que sa plateforme est idéale pour leur prolifération. C’est pourquoi le réseau social a décidé de faire équipe avec Microsoft et plusieurs universités américaines pour encourager et propulser le développement de logiciels capables de faire la différence entre du contenu faux et authentique avec un degré élevé de précision.

À cette fin, le géant social crée un concours intitulé « Deepfake Detection Challenge », dans lequel il a engagé plus de 10 millions de dollars dans le but de permettre aux chercheurs de proposer une technologie open source capable de détecter le moment où l’IA a été utilisée pour modifier des vidéos.

Il convient de noter que Facebook utilisera comme point de départ un ensemble de données créé avec des acteurs rémunérés, à qui on a demandé leur consentement pour contribuer au défi. Ceci est important, car la société est la cible d’un recours collectif après avoir créé des modèles de reconnaissance faciale pour ses utilisateurs sans demander la permission.

Les utilisateurs s’amusent beaucoup avec les applications qui peuvent créer des deepfakes, du moins jusqu’à ce qu’ils lisent les détails dans leur politique de confidentialité. Bien que tout à fait réaliste, une inspection minutieuse permet de détecter des signes révélateurs tels que des ombres incohérentes et des doubles sourcils. Facebook s’inquiète du fait que des deepfakes de célébrités et de politiciens puissent être utilisés pour nuire à leur réputation et répandre des informations erronées. C’est donc pour cette raison que Facebook pense qu’un algorithme bien entraîné est nécessaire avant que le phénomène ne devienne un gros problème sur sa plateforme.

Mike Schroepfer, CTO de Facebook, explique que la société s’efforce également d’apporter les changements de politique appropriés pour remédier aux deepfakes. La décision la plus difficile sera de déterminer si tous les deepfakes doivent être immédiatement signalés et supprimés, ou simplement ceux qui constituent de la désinformation. Dans tous les cas, l’entreprise pense que le développement d’outils de détection améliorés devrait rendre la création de deepfakes plus difficile et plus onéreuse.

Articles recommandés