Des chercheurs du MIT ont créé la « première IA psychopathe au monde », apparemment obsédée par la mort à cause de Reddit.
Alors que l’intelligence artificielle (IA) est un domaine assez intéressant qui peut automatiser diverses industries et accélérer le développement dans d’autres, de nombreuses personnes, y compris Elon Musk, ont émis des réserves envers cette technologie. Par le passé, Musk a averti que l’IA devait être réglementée «avant qu’il ne soit trop tard», et que la compréhension de la menace de l’IA par certains promoteurs comme Mark Zuckerberg est extrêmement limitée.
Il semble maintenant que le PDG de Tesla a de bonnes raisons d’être inquiet, car les chercheurs du MIT ont créé la «première IA psychopathe au monde», apparemment obsédée par la mort.
Les chercheurs qui ont mis au point cette IA ont judicieusement décidé de l’appeler « Norman », en référence au personnage dans le film Psychose d’Alfred Hitchcock. Norman a été formé en utilisant des données provenant des «coins les plus sombres de Reddit», puis ses réponses ont été vérifiées en utilisant le test des taches d’encre de Rorschach. Les chercheurs écrivent :
« Nous vous présentons Norman, première IA psychopathe au monde. […] Norman a souffert d’une exposition prolongée aux coins les plus sombres de Reddit, et représente une étude de cas sur les dangers de l’intelligence artificielle qui a mal tourné lorsque des données biaisées sont utilisées dans des algorithmes d’apprentissage automatique.
Norman est une IA formée pour effectuer le sous-titrage d’images; une méthode de deep learning populaire pour générer une description textuelle d’une image. Nous avons formé Norman sur des légendes d’images à partir d’un subreddit (le nom est expurgé en raison de son contenu graphique) qui est dédié à documenter et observer la réalité troublante de la mort. Ensuite, nous avons comparé les réponses de Norman avec un réseau de neurones de sous-titrage d’image standard (formé sur un ensemble de données MSCOCO) sur des taches d’encre de Rorschach; un test utilisé pour analyser les traits de personnalité, et éventuellement déceler certains troubles. »
Le test de Rorschach tourne autour de la perception d’un individu par les taches d’encre, les réponses étant analysées en utilisant une interprétation psychologique. Ce test a fait face à une controverse depuis sa création, étant parfois qualifié de pseudoscience en raison de sa dépendance à la psychologie plutôt que des données empiriques. Cela dit, les réponses de Norman au test sont encore assez dérangeantes, c’est le moins que l’on puisse dire. Vous pouvez vérifier certains d’entre eux ci-dessous:
Au final, le but de Norman est de décrire l’effet que les données d’entraînement biaisées peuvent avoir sur ce que produira une AI sur les données de test. L’expérience soulève également plusieurs questions concernant l’utilisation de l’IA à l’avenir, en particulier en voyant combien elle dépend fortement des données non biaisées. Cela dit, il s’agit toujours d’un domaine minutieusement étudié, et l’on peut espérer que les chercheurs seront en mesure d’affiner l’intelligence artificielle dans la mesure où elle peut résoudre efficacement et correctement les problèmes humains au jour le jour.
