Amazon admet que ses employés examinent un «petit échantillon» des conversations sur Alexa
Le site Bloomberg révèle que certaines conversations des utilisateurs via l’assistant virtuel Alexa d’Amazon sont écoutées par des employés.
La plupart du temps, lorsque vous parlez à un périphérique Amazon Echo, seul le logiciel de reconnaissance vocale d’Amazon écoute. Mais parfois, selon Bloomberg, une copie de l’audio est envoyée à un employé humain dans l’un des bureaux d’Amazon dans le monde. Ce dernier écoute le clip audio, le transcrit et ajoute des annotations pour aider les algorithmes d’Amazon à s’améliorer.
« Nous prenons au sérieux la sécurité et la confidentialité des informations personnelles de nos clients », a déclaré un porte-parole d’Amazon dans un communiqué envoyé à Bloomberg. « Nous n’annotons qu’un très petit échantillon d’enregistrements vocaux Alexa afin d’améliorer l’expérience client. »
Bloomberg fait allusion à une main-d’œuvre importante effectuant ce type de travail. Selon Bloomberg, les employés d’Amazon écoutent des clips audio dans des bureaux à Boston, au Costa Rica, en Inde et en Roumanie. Les employés interprètent jusqu’à 1 000 clips audio par quart de travail de 9 heures.
Il n’est pas difficile de comprendre pourquoi Amazon voudrait faire réviser certains clips audio par des êtres humains. Il n’y a probablement aucune alternative à ce que l’être humain écoute les clips et vérifie que le logiciel les interprète correctement.
Mais Amazon aurait pu être plus explicite sur le rôle des examinateurs humains. « Nous utilisons vos demandes adressées à Alexa pour former nos systèmes de reconnaissance de la parole et de compréhension du langage naturel », explique Amazon dans sa page de questions fréquemment posées pour Alexa, sans mentionner l’élément humain.
Amazon a déclaré à Bloomberg que l’entreprise disposait de garanties de confidentialité strictes pour empêcher toute utilisation abusive du système. « Les employés n’ont pas d’accès direct aux informations permettant d’identifier la personne ou le compte dans le cadre de ce flux de travail », a déclaré le porte-parole. « Toutes les informations sont traitées avec une grande confidentialité et nous utilisons une authentification à plusieurs facteurs pour limiter l’accès, le cryptage des services et des audits de notre environnement de contrôle pour le protéger. »
Les employés entendent parfois des sons inattendus ou extrêmes, rapporte Bloomberg. Dans un cas, deux employés ont entendu une possible agression sexuelle, mais se sont fait dire qu’il ne serait pas approprié d’intervenir. Les employés peuvent discuter de ce qu’ils entendent avec d’autres employés via un service de chat interne et partager des clips qu’ils ont du mal à interpréter, bien que le rapport mentionne également le partage de fichiers simplement parce qu’ils sont « amusants ».
Apple et Google ont également des salariés qui écoutent les conversations, selon Bloomberg
Bloomberg dit que Siri d’Apple « a aussi des aides humaines ». La société pointe vers un livre blanc sur la confidentialité Apple qui explique comment la firme de Cupertino utilise le son capturé à partir des appareils du client.
« Les enregistrements vocaux des utilisateurs sont sauvegardés pour une période de six mois afin que le système de reconnaissance puisse les utiliser afin de mieux comprendre la voix de l’utilisateur », indique le livre blanc. « Au bout de six mois, une autre copie est sauvegardée, sans son identifiant, pour utilisation par Apple dans l’amélioration et le développement de Siri pendant deux ans au maximum. »
Qu’en est-il de l’assistant virtuel de Google? « Certains employés peuvent accéder à des extraits audio de l’assistant pour aider à former et à améliorer le produit », indique Bloomberg. « Mais cela n’est associé à aucune information personnellement identifiable et le son est déformé, selon la société. »