Google a dévoilé Assembler, un outil qui va permettre aux médias de détecter les retouches effectuées sur une image.
Alors que nous nous rapprochons des élections américaines de 2020, les géants de la technologie recherchent différentes façons de lutter contre la propagation de fake news, la désinformation et les vidéos deepfakes sur les grandes plateformes sociales et de recherche. Par exemple, Facebook va purement et simplement interdire les deepfakes tout en autorisant la diffusion sauvage des publicités politiques.
Dans le cas de Google, la société a préparé ses défenses pour faire face aux vagues de fausses informations. Mais par le biais de sa filiale Jigsaw, le géant de la recherche souhaite adopter une approche plus proactive, qui utilise une plate-forme récemment publiée appelée Assembler pour aider les fact-checkers et les journalistes à vérifier rapidement les images, avant d’avoir une chance de se répandre en ligne.
Les outils sont gratuits, et bien qu’ils fassent certes partie d’une «plate-forme expérimentale à un stade précoce», ils constituent un bon point de départ qui comprend des contributions d’universitaires de l’Université de Californie, de Berkeley, de l’Université Federico II de Naples et de l’Université du Maryland.
La façon dont Assembler fonctionne est en combinant plusieurs algorithmes de machine learning qui sont bons pour trouver des motifs de couleur et de bruit, des incohérences dans les motifs de bruit et pour regarder les propriétés des pixels dans diverses images.
En termes simples, l’outil est vraiment bon pour détecter les techniques de manipulation les plus courantes utilisées dans les images, telles que jouer avec la luminosité ou copier et coller des textures ou des objets pour masquer quelque chose ou quelqu’un. Il propose un score qui représente la probabilité qu’une image ait été manipulée ou modifiée de quelque manière que ce soit, similaire à About Face AI d’Adobe.
Une autre ambition du projet est d’affiner les outils permettant de repérer les deepfakes créés à l’aide de StyleGAN, un algorithme capable de produire des visages imaginaires convaincants.
Les images manipulées sont relativement difficiles à vérifier, c’est pourquoi même Adobe promettra tout au plus de pouvoir comparer les images aux méthodes de manipulation utilisées dans ses propres outils. Cela signifie que Jigsaw doit mener une bataille difficile contre une myriade de techniques et d’outils, et cela ne prend même pas en compte les vidéos deepfakes.
Le PDG de Jigsaw, Jared Cohen, a expliqué dans un article de blog que la société « avait observé une évolution dans la façon dont la désinformation était utilisée pour manipuler les élections, faire la guerre et perturber la société civile ». Cette prise de conscience a conduit à la décision de faire progresser les technologies utilisées pour arrêter ces tentatives.
Au moment de l’écriture, Assembler dispose de sept outils différents que les journalistes et d’autres personnes peuvent utiliser pour repérer des images truquées. Cependant, les chercheurs de Jigsaw Santiago Andrigo et Andrew Gully ont déclaré au New York Times qu’Assembler n’est pas une panacée, et en tant qu’écosystème, il devra se développer et s’améliorer rapidement au fil du temps.
C’est pourquoi Jigsaw a également annoncé une publication Web intitulée « The Current », qui servira de vitrine constante des recherches en cours dans la lutte pour détecter les campagnes de désinformation. Cohen dit: « notre principale motivation était de créer un lieu où les gens peuvent accéder au travail de nombreux experts et chercheurs indépendants et organisations qui sont en première ligne pour faire face à ce problème. »
