Google utilise le machine learning pour combattre les trolls en ligne. En partenariat avec la filiale d’Alphabet Jigsaw, Google a lancé Perspective, un outil destiné à identifier les commentaires haineux sur le web.
Pour combattre les trolls en ligne, Google annonce un nouveau projet intitulé Perspective, qui vise à chasser les messages haineux des commentaires en ligne. Co-développé avec Jigsaw, filiale d’Alphabet, Perspective s’appuie sur le machine learning pour agir comme un filtre en constante amélioration, tout comme un administrateur humain pourrait le faire, mais sans le risque que l’IA puisse être offensée ou accablée en cours de route. Chaque commentaire est évalué quant à l’impact potentiel qu’il pourrait avoir sur la conversation en cours.
Perspective prend la forme d’une API qui être exploitée sur n’importe quel site, permettant aux développeurs d’utiliser efficacement la puissance de l’I.A. dans leurs sections commentaires. Une note est affichée pour chaque commentaire, grâce à un algorithme utilisant des centaines de milliers de commentaires analysés par une équipe humaine. Cependant, la publication ou non du commentaire en question dépend de l’éditeur du site.
Par exemple, les commentaires positifs jugés comme contribuant fortement à la conversation pourraient se voir accorder une priorité plus élevée, et montré plus loin dans la page. D’un autre côté, les commentaires négatifs pourraient être masqués automatiquement. Alternativement, les sites pourraient opter pour montrer une note en temps réel, de sorte que les lecteurs puissent voir en un coup d’œil ce qui vaudrait le coup d’être lu ou pas.
En effet, étant donné que Perspective fonctionne en temps réel, il pourrait même aider à façonner les commentaires que les gens sont en train d’écrire. Le système pourrait donner à l’internaute une idée de la toxicité potentielle de son commentaire pendant qu’il l’écrit. Alternativement, Perspective pourrait simplement agir comme un filtre, signalant ce qui pourrait être des commentaires négatifs à une équipe humaine.
Perspective est d’abord axée sur la langue anglaise, et sur les commentaires «toxiques». Cependant, Google dit que l’objectif est d’étendre l’API pour englober plus de langues et d’autres perspectives. Un jour, par exemple, le plugin pourrait signaler lorsque les commentaires sont hors sujet, voire mal argumentés ou sans source concrète.
Pour le moment, il s’agit d’une bêta fermée, les parties intéressées sont donc invitées à demander une clé. Mais Google dit vouloir déployer l’accès tout au long de l’année. Si vous voulez voir comment cela fonctionne, il y a des démos sur le site Perspectives qui vous permettent de voir comment le filtrage fonctionne en pratique sur des sujets comme le Brexit, le changement climatique, et les élections américaines.
