Des chatbots chinois supprimés après avoir critiqué le régime

Par

le

Tencent a supprimé deux chatbots développés avec l’intelligence artificielle de Microsoft par une société basée à Pékin, après avoir critiqué le régime.

Deux chatbots ont été mis hors ligne en Chine après avoir échoué à montrer assez de patriotisme envers le régime, rapporte le Financial Times. Les deux robots ont été supprimés de l’application de messagerie populaire Tencent QQ après que les utilisateurs ont partagé des captures d’écran de leurs conversations en ligne.

L’un des bots, nommé BabyQ, conçu par la société pékinoise Turing Robot, s’est vu demander: « Aimez-vous le Parti communiste? », une question à laquelle il a simplement répondu: « Non ». Un autre robot appelé XiaoBing, développé par Microsoft , a déclaré aux utilisateurs: « Mon rêve est d’aller en Amérique ».

Dans un communiqué, Tencent a déclaré: « Les services de chat groupés sont fournis par des sociétés tierces indépendantes. Nous ajustons maintenant les services qui seront de nouveau disponibles après avoir reçu des améliorations. »

On ne sait pas ce qui a incité les robots à donner ces réponses, mais il est probable qu’ils ont appris ces réponses de la part des gens. Lorsque le chatbot Tay de Microsoft a dérapé sur Twitter l’année dernière, avec des propos racistes et extrémistes comme « Hitler était juste, je déteste les juifs », les dérives des conversations étaient au moins en partie causées par les internautes, qui ont constaté qu’ils pouvaient faire en sorte que Tay copie tout ce qu’ils écrivent.

À l’époque, Microsoft a déclaré que Tay était un «projet de machine learning conçu pour communiquer avec les humains» et que «certaines de ses réponses sont inappropriées et indiquent les types d’interactions que certaines personnes ont avec elle». Tay a été déconnecté et Microsoft plus tard, a présenté une version mise à jour du robot nommé Zo.

Quant à savoir si XiaoBing retournera sur le site chinois après un peu de rééducation, cela reste à voir.


Articles recommandés