Instagram utilise l’IA pour détecter le harcèlement dans les photos

Par

le

Instagram introduit un système qui utilise le machine learning pour détecter «de manière proactive» le harcèlement sur les photos et leurs légendes.

L’année dernière, Instagram a introduit un filtre de commentaires amélioré qui utilise le machine learning pour identifier les mots et les phrases offensants dans des contextes difficiles. À présent, la société étend une couverture similaire aux photos et légendes. Aujourd’hui, il a annoncé qu’il utiliserait l’intelligence artificielle pour «détecter de manière proactive le harcèlement» avant d’envoyer le contenu à des modérateurs humains pour examen.

La nouvelle fonctionnalité sera proposée aux utilisateurs dans les semaines à venir, et la même technologie est également ajoutée aux vidéos en direct pour filtrer les commentaires.

Il s’agit de la première annonce concernant le nouveau chef du réseau social, Adam Mosseri, qui a succédé au départ précipité des cofondateurs Kevin Systrom et Mike Krieger le mois dernier. La scission aurait été causée par des tensions latentes entre les deux hommes et la société mère Facebook, qui s’est fréquemment mêlée aux opérations d’Instagram.

Alors que la confiance du public envers Facebook continue de se dégrader, Instagram reste le service les plus populaire de la gamme de produits de la société. C’est une activité populaire, rentable et qui n’a pas encore été entachée par les scandales contrairement à Facebook. Dans ce contexte, il est extrêmement important d’utiliser l’intelligence artificielle pour éliminer les contenus choquants et conserver à Instagram une place de choix pour se détendre.

Un article paru dans Wired l’année dernière a expliqué certains des détails des filtres de commentaires du machine learning d’Instagram, mais il est bien établi que ce type de technologie n’est pas une solution miracle pour la modération du contenu. L’intelligence artificielle n’est pas chère à déployer à grande échelle, mais elle a toujours du mal à gérer le contexte humain et les nuances. C’est pourquoi il est bon que ces nouveaux filtres anti-harcèlement envoient également du contenu aux modérateurs pour effectuer la vérification finale. L’automatisation sans surveillance conduirait au désastre.

Parallèlement aux nouveaux filtres, Instagram lance également un «effet caméra de gentillesse», qui semble être un moyen de diffuser un message positif en tant que moyen de renforcer l’engagement des utilisateurs. Lorsque vous utilisez la caméra arrière, les effets remplissent l’écran avec une superposition de «commentaires aimables dans de nombreuses langues». Basculez sur votre caméra frontale pour recevoir un encouragement à «identifier un ami ».

Articles recommandés