Une nouvelle application de deepfake fait le buzz en Chine, mais provoque aussi des interrogations sur le respect de la vie privée.
Zao, une application gratuite qui permet de changer de visage et est capable de changer votre visage avec celui d’une star dans des scènes de centaines de films et de séries TV après avoir téléchargé une seule photo, est devenue virale en Chine. Bloomberg a annoncé que l’application avait été lancée vendredi et avait rapidement atteint le sommet des charts gratuits sur l’App Store chinois. Et, tout comme l’application FaceApp, les créateurs de Zao sont maintenant confrontés à une réaction brutale face à une menace perçue pour la vie privée des utilisateurs.
Allan Xia, utilisateur de Twitter, a publié une démonstration détaillée de ce que l’application est capable hier avec un clip de 30 secondes de son visage remplaçant celui de Leonardo Dicaprio dans des scèness célèbres de plusieurs de ses films. Selon Xia, les clips ont été générés en moins de huit secondes à partir d’une seule photo. Cependant, Bloomberg note que l’application peut également vous guider tout au long du processus de prise d’une série de photographies, où il vous sera demandé d’ouvrir et de fermer la bouche et yeux, pour générer des résultats plus réalistes.
https://twitter.com/AllanXia/status/1168049059413643265
Selon Xia, l’application ne propose qu’un nombre limité de clips dans lesquels vous pouvez insérer votre visage. Le développeur de l’application a probablement formé ses algorithmes sur chacun de ces clips pour remodeler facilement le visage de l’utilisateur sur eux, comme le spécule Xia. L’application ne peut pas mapper votre visage sur un clip vidéo de votre choix.
La technologie ressemble à ce que nous avons vu récemment de chercheurs de l’Imperial College de Londres, qui ont présenté une technologie capable de transformer une photo unique en portrait chantant. La différence ici est que Zao insère votre image dans une vidéo existante, plutôt que d’animer directement une photo de vous. Néanmoins, cela montre à quel point la technologie sous-jacente a évolué rapidement: ce qui nécessitait autrefois des centaines d’images pour créer une vidéo deepfake plutôt convaincante ne nécessite plus qu’une seule image avec de meilleurs résultats.
La politique de confidentialité de Zao a généré une réaction quasi immédiate des utilisateurs, qui ont bombardé la fiche de l’App Store avec des milliers de critiques négatives. L’application Zao désigne le développeur sous le nom de Changsha Shenduronghe Network Technology, qui, selon Bloomberg, est une filiale à part entière de Momo, une société chinoise qui possède un service de streaming et de rencontres.
La politique de confidentialité inclut une clause stipulant que son développeur obtient une licence «gratuite, irrévocable, permanente» pour tout contenu généré par l’utilisateur. La société a été obligée de réagir rapidement aux critiques. Elle déclare à présent ne pas utiliser les photos ou vidéos de ses utilisateurs à d’autres fins que l’amélioration des applications sans leur consentement. Elle ajoute effacer également les données utilisateur de ses serveurs lorsque les utilisateurs suppriment leurs données de l’application.
C’est une controverse similaire à celle qui a entouré FaceApp plus tôt cette année, lorsque l’application qui vieillit l’utilisateur est redevenue virale en juillet. Le développeur de l’application a été contraint de clarifier sa politique de confidentialité et d’offrir aux utilisateurs la possibilité de supprimer leurs photos de leurs serveurs s’ils le souhaitaient. Dans le cas de FaceApp, les commentateurs ont rapidement souligné que la politique de confidentialité de l’application n’était pas plus envahissante que la plupart des applications mobiles les plus populaires à travers le monde.
Chaque fois qu’un service est fourni gratuitement, une entreprise profite inévitablement de vos données. Parfois, c’est pour un meilleur ciblage des publicités, parfois, il faut former leur IA pour une meilleure reconnaissance faciale. Vous ne savez souvent pas vraiment où partent vos données.
