Depuis quelques jours, deux nouvelles lois californiennes interdisent les deepfakes politiques et pornographiques.
La semaine dernière, le gouverneur de Californie, Gavin Newsom, a signé le 3 octobre deux lois contre les deepfakes, intitulées AB 730 et AB 602. Ces lois interdisent la distribution de vidéos manipulées destinées à discréditer un candidat politique et à tromper les électeurs dans les 60 jours suivant une élection politique.
Nous avons déjà vu comment les deepfakes, qui impliquent la manipulation d’images et de vidéos à l’aide du machine learning, peuvent être utilisés pour faire dire de choses à des politiciens. La vidéo de Barack Obama avec la voix du cinéaste Jordan Peele est assez convaincante, et le clip dans lequel la présidente de la Chambre des représentants, Nancy Pelosi, a semblé saoul a provoqué une controverse lorsque Facebook a refusé de le supprimer.
Les Deepfakes ont commencé à prendre de l’ampleur lorsque les gens ont commencé à remplacer numériquement les visages des actrices porno par celles d’hollywood. Avec la loi AB 602, également signé par Newsom, les résidents californiens pourront poursuivre en justice toute personne qui transforme leur image en un clip pornographique sans leur consentement.
« Les électeurs ont le droit de savoir quand la vidéo, l’audio et les images qui leur sont montrés, pour tenter d’influencer leur vote lors d’une prochaine élection, ont été manipulés et ne représentent pas la réalité », a déclaré Marc Berman, membre de l’Assemblée de Californie et auteur des lois AB 730 et AB 602. « Dans le contexte des élections, la capacité d’attribuer à un candidat un discours ou un comportement faux (cela ne s’est jamais produit) fait de la technologie deepfake un nouvel outil puissant et dangereux dans l’arsenal de ceux qui veulent faire des campagnes de désinformation et semer le doute chez les électeurs « .
Dans une interview le mois dernier, Hao Li, pionnier de deepfakes et professeur d’informatique associé à l’Université de Californie du Sud, a déclaré que d’ici six mois, les vidéos «parfaitement réelles» seraient possibles.
