Technologie

Facebook stoppe ses robots qui avaient inventé leur propre langue

Par

le

Les chercheurs du Facebook Artificial Intelligence Research ont stoppé des robots qui avaient inventé leur propre langue.

Certaines choses merveilleuses sont en cours de développement en raison des progrès réalisés dans l’intelligence artificielle et les technologies de machine learning. Dans le même temps, il y a chez certains une peur que les machines puissent se retourner contre les humains, comme dans Terminator. Alors quand les chercheurs de Facebook expliquent avoir stoppé des robots qui avaient inventé leur propre langue, cela a affolé la toile à cause de titres racoleurs utilisés par certains sites.

L’IA a été formée en anglais, mais apparemment en a eu assez des différentes nuances et incohérences de la langue. Plutôt que de continuer ainsi, elle a développé un système de mots de code pour rendre la communication plus efficace.

Ce qui ennuyait les chercheurs, c’est que les phrases utilisées par l’IA semblaient être du charabia et étaient donc par conséquent inintelligibles, bien qu’elles avaient du sens pour les chatbots. Cela a permis aux chatbots de communiquer entre eux sans que les chercheurs sachent quelles informations ont été partagées.

Au cours d’un échange, deux robots nommés Bob et Alice ont abandonné les règles de grammaire anglaises et ont commencé à communiquer en utilisant leur propre langue. Bob a démarré en disant: “Je peux je je tout le reste”, ce qui a incité Alice à répondre, “les ballons ont zéro pour moi pour moi pour moi pour moi pour moi” La conversation a continué de cette manière.

Les chercheurs croient que l’échange représente plus qu’un simple échange désordonné. Ils notent que répéter des mots et des phrases tels que «Je» et «pour moi» indiquent comment fonctionne l’IA. Dans cette conversation particulière, ils expliquent que les robots ont discuté du nombre d’objets qu’ils devaient prendre.

Les technologies d’IA utilisent un système de «récompense» dans lequel ils s’attendent à ce qu’un plan d’action ait un «bénéfice».

« Il n’y a pas de récompense à tirer de la langue anglaise », a déclaré Dhruv Batra, un scientifique de Georgia et ancien membre du FAIR. “Les agents dériveront du langage compréhensible et inventeront des mots de code pour eux-mêmes. Par exemple, si je dis ‘le’ cinq fois, vous interprétez cela comme signifiant que je veux cinq copies de cet élément. Ce n’est pas si différent de la façon dont les communautés d’humains créent des raccourcis.”

Facebook a finalement déterminé qu’il voulait que ses robots parlent un anglais clair, en partie parce que l’intérêt était de faire des bots qui peuvent parler avec les gens. Cependant, les chercheurs de Facebook ont ​​également admis qu’ils ne peuvent pas vraiment comprendre les langues inventées par l’IA.

En résumé, les robots ne sont pas en train de préparer une attaque contre les humains dans leur langage.

Articles recommandés