Skip to main content

D’ici peu, L’IA appelée Private detector de l’application Bumble va détecter et flouter automatiquement les images obscènes.

Bumble lance une fonction de «Private detector» capable de détecter automatiquement les images obscènes avec une IA et d’avertir les utilisateurs de la photo avant de l’ouvrir. Les utilisateurs peuvent ensuite décider s’ils souhaitent afficher, bloquer ou signaler l’image aux modérateurs. Cette fonctionnalité fait partie d’une initiative de sécurité des cofondateurs de Bumble. Elle s’appliquera également aux applications Badoo, Chappy et Lumen, qui font toutes partie de la même société mère du groupe de rencontres, à compter de juin.

En tant qu’une des rares applications de rencontres permettant l’envoi de photos en discussion, Bumble a déjà mis en place des mesures pour protéger les utilisateurs en rendant toutes les images floues par défaut. Les destinataires doivent maintenir la photo enfoncée pour l’afficher, laquelle sera ensuite affichée avec un filigrane de l’image de profil de l’expéditeur. L’idée était que les photos attachées au profil de l’expéditeur devraient, espérons-le, contenir les images obscènes indésirables. Cependant, comme les utilisateurs l’ont constaté, rien n’empêche quiconque de créer de faux profils. Par exemple, ne ressemblez pas à «James, 23 ans» ci-dessous.

Désormais, les messages photo obscènes seront au moins accompagnés d’un avertissement que l’IA a détecté (avec une précision de 98%, selon la société) un contenu potentiellement inapproprié.

Outre cette nouvelle fonctionnalité, la PDG et cofondatrice de Bumble, Whitney Wolfe Herd, collabore avec les législateurs du Texas afin de faire adopter un projet de loi faisant du partage d’images nues non désirées un crime passible d’une amende pouvant aller jusqu’à 500 dollars. Le projet de loi a été rédigé par le représentant de l’État républicain du Texas, Morgan Meyer, sur le fait qu’il est illégal de s’exposer publiquement dans les rues, il devrait être illégal de faire la même chose en ligne. « Quelque chose qui est déjà un crime dans le monde réel doit être un crime en ligne », a déclaré Meyer à NBC News.