De nouvelles révélations au sujet d'Alexa et du non-respect de la vie privée révèlent que les employés peuvent, s'ils le souhaitent, accéder à l'adresse des utilisateurs.
 Un cran supplémentaire dans l'intrusion de la vie privée vient d'être franchi. Mais quelle nouvelle dérive doit-on encore découvrir avant que l'entreprise et les gouvernements sanctionnent cet usage irrespectueux des données privées ?
Pour comprendre les enjeux que soulève la question du respect de la vie privée et de l'importance de l'usage d'une IA responsable nous vous proposons un éclairage de Joseph Dureau, CTO de Snips, la seule plateforme vocale pour les objets connectés en conformité avec la RGPD.
L'enquête de Bloomberg à propos de l'écoute des conversations via les enceintes Alexa par les salariés d'Amazon relance le débat houleux, mais impératif, sur la vie privée et la protection des données des utilisateurs.
Améliorer l'expérience client. Voilà l'argument mis en avant par les GAFAM qui, en plus d'épier la vie privée de leurs utilisateurs, ferment aujourd'hui les yeux lorsque leurs employés alertent leur hiérarchie après avoir été « témoins » de ce qui ressemble à « une agression sexuelle ».
Un éclairage de Joseph Dureau, CTO de Snips, sur le sujet :
« Ces types de pratiques soulèvent des questions sur le coût élevé en termes de vie privée qu'Amazon demande à ses utilisateurs dans le but d'optimiser les performances de son assistant vocal.
Amazon semble affirmer que sa technologie de reconnaissance vocale nécessite une amélioration continue, et que cette amélioration continue nécessite la collecte et la supervision de grandes quantités de données utilisateurs. Chez Snips, nous développons et améliorons notre technologie de reconnaissance vocale avant même de la mettre à la disposition des utilisateurs finaux. Avec notre technologie, le traitement de la voix de nos utilisateurs se passe dans l'objet auquel les utilisateurs s'adressent, sans qu'il soit nécessaire d'envoyer la voix dans le cloud. Nous résolvons des problèmes tels que les faux positifs dans détection du mot clé, ou l'incompréhension des requêtes vocales, sans utiliser de données utilisateur pour enrichir nos modèles.
Dans sa notice pour la protection des informations personnelles, Amazon indique que si un utilisateur final choisit de désactiver l'enregistrement de données vocales, «les nouvelles fonctionnalités risquent de ne pas fonctionner correctement» pour eux. Amazon intimide en bonne et due forme ses utilisateurs en leur demandant d'utiliser leurs enregistrements vocaux, leur faisant croire qu'ils risqueraient autrement de ne pas bénéficier de la meilleure version d'Alexa. Snips considère que les utilisateurs finaux doivent avoir accès aux meilleurs services sans avoir à renoncer à leur vie privée.
Des sociétés comme Amazon sont habituées à affirmer à l'envi que la collecte d'une quantité massive de données utilisateurs est indispensable au bon fonctionnement de son assistant vocal. Ce n'est tout simplement pas vrai. Au-delà d'un certain seuil, les performances ne sont en réalité que très peu améliorées avec la collecte de données additionnelles. Des comparatifs techniques montrent que la collecte systématique de données utilisateurs dans le but d'améliorer les modèles n'est tout simplement pas justifiée [post].
Les affirmations relatives à la nécessité de données utilisateurs pour améliorer les performances ignorent les alternatives existantes. Les mêmes améliorations de performance peuvent être obtenues en collectant par exemple des enregistrements vocaux directement sur les plateformes de crowdsourcing. Ces enregistrements doivent parfois encore être supervisés et vérifiés pour pouvoir être utilisés pour l'entraînement de modèles, mais ce sont des enregistrements vocaux créés par des crowdworkers dans ce but précis. Ils ne représentent aucune atteinte à la vie privée de qui que ce soit. L'accent devrait être mis sur la qualité des données plutôt que sur la quantité, et de plus petites quantités de données issues de campagnes de crowdsourcing peuvent entraîner des améliorations considérables des performances.
Il est naturel que toute entreprise vise à améliorer l'expérience de ses client, mais quelle est la limite des moyens qu'une entreprise s'autorise dans ce but? En tant qu'entreprise, nous pensons que cela ne justifie aucun compromis concernant la vie privée des utilisateurs. Il s'agit de trouver le bon équilibre et la bonne approche. Chez Snips, nous choisissons de concentrer nos efforts sur la recherche de solutions innovantes pour relever les défis de performance dans le respect de la vie privée.
Enfin, les pratiques d'Alexa ne sont pas très transparentes. Les utilisateurs ne disposent d'aucune information sur le fait que leurs enregistrements vocaux puissent être examinés par des humains, et encore moins par du personnel extérieur à Amazon. Les conditions contractuelles en vertu desquelles ces personnes ont accès aux données utilisateurs ne sont pas claires non plus. Les personnes qui parlent dans l'intimité de leur domicile n'ont aucune idée du lieu où leurs enregistrements vocaux sont envoyés.
La seule solution simple, fiable et transparente est le traitement local des données. Traiter la voix dans l'objet même auquel l'utilisateur s'adresse élimine la question de savoir où les enregistrements vocaux sont envoyés, qui y a accès ou comment ils sont utilisés. La promesse faite aux utilisateurs est dans ce cas très simple: si vous utilisez un assistant vocal embarqué, votre voix ne sort jamais de l'appareil. Vous n'avez même pas besoin que l'appareil soit connecté à Internet pour fonctionner. C'est le seul moyen d'avoir la certitude que votre vie privée sera respectée. "
| 