fbpx

Facebook va interdire les deepfakes sur sa plateforme

Par

le

Facebook va interdire les deepfakes, mais de nombreuses fausses vidéos peuvent encore passer entre les mailles du filet.

Ce n’est pas un secret que Facebook est sous pression en raison de sa position controversée sur les publicités politiques et de ses politiques générales sur le contenu qui doit passer par des filtres de vérification des faits.

Le réseau social a récemment annoncé qu’il allait interdire les deepfakes sur sa plateforme afin de les empêcher d’interférer avec la perception du public sur les candidats à la campagne présidentielle américaine de 2020. Le changement de politique a été signalé pour la première fois par le Washington Post et confirmé par Facebook lundi soir.

La décision signifie que Facebook commencera à supprimer tout le contenu qui a été manipulé « d’une manière qui n’est pas apparente à une personne moyenne », comme par le biais de techniques de machine learning, qui se sont avérées tout à fait adaptées dans un passé récent. Et bien que les deepfakes ne soient pas aussi répandus que d’autres types de contenu manipulé, l’échelle de la plateforme de Facebook peut être utilisée pour armer les attaques contre l’image d’un politicien à travers du contenu qui a été édité d’une manière qui fait croire aux gens qu’un officiel a dit quelque chose qu’il n’a en réalité jamais prononcé.

Facebook s’attaque aux Deepfakes

Le problème évident avec la politique est qu’elle ne s’étend pas au contenu qui est de la parodie ou de la satire, selon Monika Bickert de Facebook. Cela vaut également pour les « vidéos qui ont été modifiées uniquement pour omettre ou modifier l’ordre des mots ». Le Washington Post note que des vidéos trompeuses créées à l’aide de méthodes d’édition conventionnelles pourraient passer à travers les mailles du filet, offrant l’exemple notable d’une vidéo virale où la voix de la présidente de la Chambre, Nancy Pelosi, a été modifiée à l’aide d’un logiciel facilement disponible.

D’un autre côté, une vidéo qui ne répond pas aux nouveaux critères de suppression mais qui viole les autres normes communautaires comme les discours de haine et la violence graphique peut toujours obtenir le démarrage de Facebook.

La société affirme qu’elle ne veut pas adopter une politique plus stricte en supprimant toutes les vidéos manipulées signalées par ses filtres de vérification des faits ou l’un de ses 50 partenaires mondiaux qui parcourent le contenu dans plus de 40 langues. Au lieu de cela, le site marquera une partie de ce contenu comme faux et contrôlera sa visibilité dans le fil d’actualité afin que les gens puissent voir les choses dans leur contexte. L’approche n’est pas idéale, mais Facebook pense que c’est un bon compromis car les fausses vidéos seraient toujours téléchargées sur d’autres plateformes, ce qui pourrait ou non fournir des indices sur leur authenticité.

En septembre 2019, Facebook s’est associé à Microsoft et à plusieurs universités pour créer de meilleurs outils open source pour détecter les deepfakes dans le cadre du Deep Fake Detection Challenge. L’entreprise a investi 10 millions de dollars dans des subventions de recherche, dans l’espoir d’encourager les experts à apporter leurs idées et à mener le développement.


Articles recommandés