Facebook

Facebook déploie l’IA pour détecter les posts suicidaires avant qu’ils ne soient signalés

Par

le

Facebook a déployé une nouvelle technique d’intelligence artificielle qui permet de scanner tous les messages d’un utilisateur à la recherche de messages suicidaires.

L’intelligence artificielle peut s’adapter à beaucoup de modèles, y compris aux comportements types qui pourraient indiquer que quelqu’un envisage le suicide. Le lundi 27 Novembre, Facebook a partagé des mesures supplémentaires que la plateforme est en train d’intégrer pour aider les utilisateurs qui peuvent être exprimer des pensées suicidaires. La mise à jour a recours à l’intelligence artificielle pour détecter les messages évoquant un comportement suicidaire potentiel, en plus d’un personnel humain dédié à la cause.

Au cours du dernier mois, les « premiers intervenants » sont entrés en contact avec des utilisateurs à plus de 100 reprises après la détection d’intentions suicidaires par l’IA, et ces chiffres ne comprennent pas les messages qui ont été signalées par les utilisateurs. Facebook commence à déployer le système de détection à d’autres pays, après une phase de test aux États-Unis. Le réseau social indique que le programme disponible dans le monde entier, à l’exception de l’Union européenne en raison des lois sur la vie privée.

facebook-suicide-prevention

Les nouveaux algorithmes utilisent la reconnaissance de certains signes qui pourraient être exprimer des pensées suicidaires. Avec un repérage des messages écrits, la technologie fonctionne également avec la vidéo en direct et les vidéos pré-enregistrées. L’outil utilise des données à l’intérieur du poste lui-même, ainsi que dans les commentaires. Facebook dit que les commentaires comme « Est-ce que tu vas bien ? » ou « puis-je aider? » sont souvent des indicateurs forts.

Le système de prévention est un grand pas en avant non seulement dans l’IA pour aider à entrer en contact avec les personnes présentant des risques d’automutilation ou de suicide, mais aussi dans la vision de Mark Zuckerberg de faire de son réseau social davantage une communauté. C’est un bon exemple de comment l’IA peut se rendre utilise à un moment où beaucoup de gens se méfient de plus en plus de l’entreprise.

Articles recommandés