Pour lutter contre le harcèlement, Instagram va avertir les utilisateurs lorsqu’ils publieront des sous-titres offensants.
Si vous aimez laisser des légendes sur vos photos et vidéos Instagram, préparez-vous à un avertissement si elles sont un peu risquées. Le réseau social appartenant à Facebook utilise l’intelligence artificielle pour identifier la langue dans les sous-titres qui pourraient être considérés comme offensants ou classés comme de l’intimidation.
Avec le nouveau système, les utilisateurs publiant des sous-titres qui, selon Instagram, pourraient être offensants verront un message l’informant qu’il ressemble à d’autres qui ont été signalés. La société affirme que cela donnera aux gens une chance de faire une pause et de reconsidérer leurs mots avant de publier.
Plus tôt cette année, Instagram a introduit une fonctionnalité similaire qui utilise également l’IA. Dans ce cas, il identifie les commentaires toxiques. Le filtre est alimenté par l’apprentissage automatique qui a été formé à l’aide d’un ensemble de données de test et prend en compte le contexte et les relations.
Instagram avertit uniquement les utilisateurs que leurs mots sont potentiellement offensants ou intimidants, afin que les gens puissent toujours ignorer les invites et publier des légendes/commentaires s’ils le souhaitent. Mais l’entreprise espère que les notifications aideront à réduire le nombre d’incidents de cyberintimidation tout en éduquant les gens sur ce qui est et n’est pas autorisé sur la plateforme.
« Nous pouvons faire plus pour empêcher l’intimidation de se produire sur Instagram, et nous pouvons faire plus pour permettre aux cibles de l’intimidation de se défendre », a déclaré Adam Mosseri, directeur d’Instagram.
« Il est de notre responsabilité de créer un environnement sûr sur Instagram. Cela a été une priorité importante pour nous depuis un certain temps, et nous continuons à investir pour mieux comprendre et résoudre ce problème. »
La fonctionnalité basée sur l’IA sera lancée dans «certains pays» avant de s’étendre à l’échelle mondiale au cours des prochains mois.
