Discord a fermé un groupe qui partageait des faux clips pornos édités par intelligence artificielle avec des visages de célébrités.
L’intelligence artificielle est une étape importante pour l’humanité. Le PDG de Google, Sundar Pichai, la qualifie de plus profonde que l’électricité ou le feu. Mais comme chaque saut technologique, elle présente des inconvénients, et tous ne sont liés aux révolutions robotiques de Skynet.
Vous avez peut-être entendu parler de l’IA et des techniques de machine learning utilisées pour créer de faux porno de stars ces derniers temps. Cela a été initialement rapporté par Motherboard le mois dernier, qui a noté qu’un Redditor appelé deepfakes utilisait des bibliothèques open-source pour remplacer les visages des actrices dans les vidéos hardcore avec celles des stars d’Hollywood.
Les visages de Scarlett Johansson, de Maisie Williams, de Taylor Swift, d’Aubrey Plaza et de Gal Gadot ont tous été insérés dans les films pour adultes, et bien qu’il y ait un léger effet de vallée dérangeante (Uncanny Valley en anglais), le produit final peut être convaincant pour le peu qu’on ne prête pas attention aux détails.
Les vidéos ont mené à l’apparition d’une nouvelle application, appelée FakeApp, basée sur le logiciel de deepfakes. Non seulement cela améliore l’original, mais il permet également à quiconque de créer de fausses vidéos, grâce à sa facilité d’utilisation et à son didacticiel exhaustif.
Beaucoup de ces vidéos et des instructions sur la façon de les créer étaient partagées dans un groupe d’utilisateurs, également appelé deepfakes, sur le service de discussion centré sur les jeux, Discord. Mais après avoir été contacté par Business Insider, l’entreprise l’a fermé. Discord a déclaré que le groupe, qui comptait au moins 150 membres, violait les règles sur la pornographie non consensuelle, ce qui «justifie un arrêt instantané des serveurs chaque fois que nous l’identifions, ainsi qu’une interdiction permanente des utilisateurs».
« Nous avons enquêté sur ces serveurs et les avons immédiatement fermés », a déclaré un représentant de Discord à la publication.
Les groupes Reddit dans lesquels les vidéos éditées sont partagées et discutées sont toujours actifs. Dans un article, un utilisateur parle d’une technologie qui pourrait permettre aux créateurs d’ajouter un dialogue personnalisé aux clips en utilisant les propres voix des stars d’Hollywood.
