LONDRES/SAN FRANCISCO, 6 avril (Reuters) – Tesla assure à ses millions de propriétaires de voitures électriques que leur vie privée « est et sera toujours extrêmement importante pour nous ». Les caméras qu’il construit dans les véhicules Pour aider à la conduite, note il sur son site Web, sont « conçus à partir de zéro pour protéger votre vie privée ».
Mais entre 2019 et 2022, des groupes de Employés de Tesla partagé en privé via un système de messagerie interne parfois très invasif vidéos et images enregistrées par Voiture des clients , selon des entretiens de Reuters avec neuf anciens employés.
Quelques-uns des enregistrements capturés Clients Tesla dans des situations embarrassantes. Un ex-employé a décrit une vidéo d’un homme s’approchant d’un véhicule complètement nu.
Également partagés : accidents et incidents de rage au volant. Une vidéo d’accident en 2021 a montré une Tesla conduisant à grande vitesse dans un quartier résidentiel heurtant un enfant à vélo, selon un autre ancien employé. L’enfant volait dans une direction, le vélo dans une autre. La vidéo s’est répandue dans un bureau de Tesla à San Mateo, en Californie, via des discussions privées en tête-à-tête, « comme une traînée de poudre », a déclaré l’ancien employé.
D’autres images étaient plus banales, telles que des photos de chiens et des panneaux routiers amusants que les employés transformaient en mèmes en les embellissant de légendes ou de commentaires amusants, avant de les publier dans des discussions de groupe privées. Alors que certaines publications n’étaient partagées qu’entre deux employés, d’autres pouvaient être vues par des dizaines d’entre eux, selon plusieurs anciens employés.
Tesla déclare dans son « Avis de confidentialité client » en ligne que ses « enregistrements de caméra restent anonymes et ne sont pas liés à vous ou à votre véhicule ». Mais sept anciens employés ont déclaré à Reuters que le programme informatique qu’ils utilisaient au travail pourrait montrer l’emplacement des enregistrements – ce qui pourrait potentiellement révéler où vivait un propriétaire de Tesla.
Un ancien employé a également déclaré que certains enregistrements semblaient avoir été faits lorsque des voitures étaient garées et éteintes. Il y a plusieurs années, Tesla recevait des enregistrements vidéo de ses véhicules même lorsqu’ils étaient éteints, si les propriétaires donnaient leur consentement. Il a depuis cessé de le faire.
« Nous pouvions voir à l’intérieur des garages des gens et de leurs propriétés privées », a déclaré un autre ancien employé. « Disons qu’un client de Tesla avait quelque chose dans son garage qui était distinctif, vous savez, les gens postaient ce genre de choses. »
Tesla n’a pas répondu aux questions détaillées envoyées à la société pour ce rapport.
Il y a environ trois ans, certains employés sont tombés sur et ont partagé une vidéo d’un véhicule submersible unique garé dans un garage, selon deux personnes qui l’ont visionné. Surnommé « Wet Nellie », le sous-marin Lotus Esprit blanc avait été présenté dans le film de James Bond de 1977, « L’espion qui m’aimait ».
Le propriétaire du véhicule: le directeur général de Tesla, Elon Musk, qui l’avait acheté pour environ 968 000 dollars lors d’une vente aux enchères en 2013. Il n’est pas clair si Musk était au courant de la vidéo ou si elle avait été partagée.
Musk n’a pas répondu à une demande de commentaire.
Pour rapporter cette histoire, Reuters a contacté plus de 300 anciens employés de Tesla qui avaient travaillé dans l’entreprise au cours des neuf dernières années et étaient impliqués dans le développement de son système de conduite autonome. Plus d’une douzaine ont accepté de répondre aux questions, toutes sous couvert d’anonymat.
Reuters n’a pu obtenir aucune des vidéos ou images partagées, que d’anciens employés ont déclaré ne pas avoir conservées. L’agence de presse n’a pas non plus été en mesure de déterminer si la pratique de partage d’enregistrements, qui a eu lieu dans certaines parties de Tesla aussi récemment que l’année dernière, se poursuit aujourd’hui ou à quel point elle était répandue. Certains anciens employés contactés ont déclaré que le seul partage qu’ils ont observé était à des fins de travail légitimes, comme demander de l’aide à des collègues ou à des superviseurs.
ÉTIQUETAGE DES PIÉTONS ET DES PANNEAUX DE SIGNALISATION
Le partage de vidéos sensibles illustre l’une des caractéristiques les moins remarquées des systèmes d’intelligence artificielle: ils nécessitent souvent des armées d’êtres humains pour aider à former les machines à apprendre des tâches automatisées telles que la conduite.
Depuis environ 2016, Tesla a employé des centaines de personnes en Afrique et plus tard aux États-Unis pour étiqueter des images afin d’aider ses voitures à apprendre à reconnaître les piétons, les panneaux de signalisation, les véhicules de construction, les portes de garage et autres objets rencontrés sur la route ou chez les clients. Pour ce faire, les étiqueteurs de données ont eu accès à des milliers de vidéos ou d’images enregistrées par des caméras de voiture qu’ils visualisaient et identifiaient des objets.
Tesla automatise de plus en plus le processus et a fermé un centre d’étiquetage de données l’année dernière à San Mateo, en Californie. Mais il continue d’employer des centaines d’étiqueteurs de données à Buffalo, New York. En février, Tesla a déclaré que le personnel avait augmenté de 54% au cours des six mois précédents pour atteindre 675.
Deux anciens employés ont déclaré qu’ils n’étaient pas dérangés par le partage d’images, affirmant que les clients avaient donné leur consentement ou que les gens avaient depuis longtemps renoncé à toute attente raisonnable de garder leurs données personnelles privées. Trois autres, cependant, ont dit qu’ils étaient troublés par cela.
« C’était une violation de la vie privée, pour être honnête. Et j’ai toujours plaisanté en disant que je n’achèterais jamais une Tesla après avoir vu comment ils traitaient certaines de ces personnes », a déclaré un ancien employé.
Un autre a déclaré: « Cela me dérange parce que les gens qui achètent la voiture, je ne pense pas qu’ils sachent que leur vie privée n’est pas respectée … Nous pouvions les voir faire la lessive et des choses vraiment intimes. Nous pouvions voir leurs enfants.
Un ancien employé ne voyait rien de mal à partager des images, mais a décrit une fonction qui permettait aux étiqueteurs de données de voir l’emplacement des enregistrements sur Google Maps comme une « invasion massive de la vie privée ».
David Choffnes, directeur exécutif du Cybersecurity and Privacy Institute de la Northeastern University de Boston, a qualifié le partage de vidéos et d’images sensibles par les employés de Tesla de « moralement répréhensible ».
« N’importe quel être humain normal serait consterné par cela », a-t-il déclaré. Il a noté que la circulation de contenu sensible et personnel pourrait être interprétée comme une violation de la propre politique de confidentialité de Tesla, ce qui pourrait entraîner l’intervention de la Federal Trade Commission des États-Unis, qui applique les lois fédérales relatives à la vie privée des consommateurs.
Un porte-parole de la FTC a déclaré qu’elle ne commentait pas les entreprises individuelles ou leur conduite.
Pour développer la technologie des voitures autonomes, Tesla collecte une vaste mine de données de sa flotte mondiale de plusieurs millions de véhicules. La société exige que les propriétaires de voitures accordent une autorisation sur les écrans tactiles des voitures avant que Tesla ne collecte les données de leurs véhicules. « Vos données vous appartiennent », indique le site Web de Tesla.
Dans son avis de confidentialité client, Tesla explique que si un client accepte de partager des données, « votre véhicule peut collecter les données et les mettre à la disposition de Tesla pour analyse. Cette analyse aide Tesla à améliorer ses produits, ses fonctionnalités et à diagnostiquer les problèmes plus rapidement. » Il indique également que les données peuvent inclure « de courts clips vidéo ou des images », mais ne sont pas liées au compte ou au numéro d’identification du véhicule d’un client, « et ne vous identifient pas personnellement ».
Carlo Piltz, un avocat spécialisé dans la confidentialité des données en Allemagne, a déclaré à Reuters qu’il serait difficile de trouver une justification juridique en vertu de la loi européenne sur la protection des données et de la vie privée pour que les enregistrements de véhicules circulent en interne alors qu’ils n’ont « rien à voir avec la fourniture d’une voiture sûre ou sécurisée ou la fonctionnalité » du système de conduite autonome de Tesla.
Ces dernières années, le système de caméra de voiture de Tesla a suscité la controverse. En Chine, certains complexes gouvernementaux et quartiers résidentiels ont interdit Teslas parce que des préoccupations concernant ses caméras. En réponse, Musk a déclaré lors d’une conférence virtuelle lors d’un forum chinois en 2021: « Si Tesla utilisait des voitures pour espionner en Chine ou ailleurs, nous serons fermés. »
Ailleurs, les régulateurs ont examiné le système Tesla sur les violations potentielles de la vie privée. Mais les affaires de protection de la vie privée ont eu tendance à se concentrer non pas sur les droits des propriétaires de Tesla, mais des passants ignorant qu’ils pourraient être enregistrés par des véhicules Tesla garés.
En février, le Dutch Data ProL’Autorité de la protection, ou DPA, a déclaré qu’elle avait conclu une enquête sur Tesla sur de possibles violations de la vie privée concernant le « mode sentinelle », une fonctionnalité conçue pour enregistrer toute activité suspecte lorsqu’une voiture est garée et alerter le propriétaire.
« Les gens qui passaient devant ces véhicules ont été filmés sans le savoir. Et les propriétaires des Teslas pourraient revenir en arrière et regarder ces images », a déclaré Katja Mur, membre du conseil d’administration de DPA, dans un communiqué. « Si une personne garait l’un de ces véhicules devant la fenêtre de quelqu’un, elle pouvait espionner à l’intérieur et voir tout ce que l’autre personne faisait. C’est une violation grave de la vie privée. »
Le chien de garde a déterminé que ce n’était pas Tesla, mais les propriétaires des véhicules, qui étaient légalement responsables des enregistrements de leurs voitures. Il a déclaré qu’il avait décidé de ne pas infliger d’amende à la société après que Tesla eut déclaré avoir apporté plusieurs modifications au mode sentinelle, notamment en faisant pulser les phares d’un véhicule pour informer les passants qu’ils pourraient être enregistrés.
Un porte-parole de la DPA a refusé de commenter les conclusions de Reuters, mais a déclaré dans un courrier électronique: « Les données personnelles doivent être utilisées dans un but spécifique et les données personnelles sensibles doivent être protégées. »
REMPLACEMENT DES CONDUCTEURS HUMAINS
Tesla appelle son système de conduite automatisée Autopilot. Introduit en 2015, le système comprenait des fonctionnalités avancées telles que la possibilité pour les conducteurs de changer de voie en appuyant sur un clignotant et le stationnement parallèle sur commande. Pour que le système fonctionne, Tesla a d’abord installé des capteurs sonar, un radar et une seule caméra frontale en haut du pare-brise. Une version ultérieure, introduite en 2016, comprenait huit caméras tout autour de la voiture pour collecter plus de données et offrir plus de capacités.
La vision future de Musk est à terme d’offrir un mode « Full Self-Driving » qui remplacerait un conducteur humain. Tesla a commencé à déployer une version expérimentale de ce mode en octobre 2020. Bien qu’il oblige les conducteurs à garder les mains sur le volant, il offre actuellement des fonctionnalités telles que la possibilité de ralentir automatiquement une voiture à l’approche des panneaux d’arrêt ou des feux de circulation.
Système de pilote automatique de Tesla
En février, Tesla a rappelé plus de 362 000 véhicules américains pour mettre à jour leur logiciel de conduite entièrement autonome après que la National Highway Traffic Safety Administration a déclaré qu’elle pourrait permettre aux véhicules de dépasser les limites de vitesse et potentiellement causer des accidents aux intersections.
Comme pour de nombreux projets d’intelligence artificielle, pour développer le pilote automatique, Tesla a embauché des étiqueteurs de données pour identifier les objets dans les images et les vidéos afin d’enseigner au système comment réagir lorsque le véhicule était sur la route ou garé.
Tesla a d’abord externalisé l’étiquetage des données à une organisation à but non lucratif basée à San Francisco, alors connue sous le nom de Samasource, ont déclaré à Reuters des personnes familières avec le sujet. L’organisation avait un bureau à Nairobi, au Kenya, et se spécialisait dans l’offre de possibilités de formation et d’emploi aux femmes et aux jeunes défavorisés.
En 2016, Samasource y fournissait environ 400 travailleurs pour Tesla, contre environ 20 initialement, selon une personne familière avec le sujet.
En 2019, cependant, Tesla n’était plus satisfait du travail des étiqueteurs de données de Samasource. Lors d’un événement appelé Tesla AI Day en 2021, Andrej Karpathy, alors directeur principal de l’IA chez Tesla, a déclaré: « Malheureusement, nous avons constaté très rapidement que travailler avec un tiers pour obtenir des ensembles de données pour quelque chose d’aussi critique n’allait tout simplement pas le couper … Honnêtement, la qualité n’était pas incroyable. »
Un ancien emp loyee de Tesla a déclaré à propos des étiqueteurs Samasource: « Ils mettraient en évidence les bouches d’incendie en tant que piétons … Ils manqueraient des objets tout le temps. Leur niveau de compétence pour dessiner des boîtes était très faible. »
Samasource, maintenant appelé Sama, a refusé de commenter son travail pour Tesla.
Tesla a décidé d’introduire l’étiquetage des données en interne. « Au fil du temps, nous sommes passés à une organisation d’étiquetage de données de plus de 1 000 personnes qui regorge d’étiqueteurs professionnels qui travaillent en étroite collaboration avec les ingénieurs », a déclaré Karpathy dans sa présentation d’août 2021.
Karpathy n’a pas répondu aux demandes de commentaires.
Les propres étiqueteurs de données de Tesla ont d’abord travaillé dans la région de la baie de San Francisco, y compris le bureau de San Mateo. Des groupes d’étiqueteurs de données se sont vu confier une variété de tâches différentes, y compris l’étiquetage des lignes de voies de rue ou des véhicules d’urgence, ont déclaré d’anciens employés.
À un moment donné, les Tesla en pilote automatique avaient de la difficulté à sortir des garages et étaient confuses lorsque rencontrer des ombres ou des objets tels que des tuyaux d’arrosage. Ainsi, certains étiqueteurs de données ont été invités à identifier des objets dans des vidéos enregistrées à l’intérieur des garages. Le problème a finalement été résolu.
Lors d’entrevues, deux anciens employés ont déclaré que, dans le cadre de leurs tâches professionnelles normales, on leur demandait parfois de voir des images de clients à l’intérieur et autour de leur domicile, y compris à l’intérieur des garages.
« Je me demandais parfois si ces gens savaient que nous voyions cela », a déclaré l’un d’eux.
« J’ai vu des choses scandaleuses parfois, vous savez, comme j’ai vu des scènes d’intimité mais pas de nudité », a déclaré un autre. « Et il y avait certainement beaucoup de choses qui comme, je ne voudrais pas que quiconque voie ma vie. »
À titre d’exemple, cette personne se souvenait d’avoir vu des « objets embarrassants », comme « certains morceaux de linge, certains articles de bien-être sexuel[…]et juste des scènes privées de la vie dont nous étions vraiment au courant parce que la voiture chargeait.
MÈMES DANS LE BUREAU DE SAN MATEO
Tesla a doté son bureau de San Mateo de jeunes travailleurs, âgés de 20 à 30 ans, qui ont apporté avec eux une culture qui valorisait les mèmes divertissants et le contenu viral en ligne. D’anciens membres du personnel ont décrit une atmosphère de roue libre dans les salons de discussion avec des travailleurs échangeant des blagues sur les images qu’ils ont vues pendant l’étiquetage.
Selon plusieurs anciens employés, certains étiqueteurs ont partagé des captures d’écran, parfois annotées à l’aide d’Adobe Photoshop, lors de discussions de groupe privées sur Mattermost, le système de messagerie interne de Tesla. Là, ils attiraient des réponses d’autres travailleurs et gestionnaires. Les participants ajouteraient également leurs propres images, blagues ou emojis annotés pour poursuivre la conversation. Certains des emojis ont été créés sur mesure pour faire référence à des blagues de bureau, ont déclaré plusieurs anciens employés.
Un ancien étiqueteur a décrit le partage d’images comme un moyen de « briser la monotonie ». Un autre a décrit comment le partage a gagné l’admiration de ses pairs.
« Si vous voyiez quelque chose de cool qui susciterait une réaction, vous le postiez, d’accord, et puis plus tard, pendant la pause, les gens venaient vous voir et disaient: » Oh, j’ai vu ce que vous avez posté. C’était drôle », a déclaré cet ancien étiqueteur. « Les gens qui ont été promus à des postes de direction ont partagé beaucoup de ces objets amusants et ont acquis une notoriété pour être drôles. »
Une partie du contenu partagé ressemblait à des mèmes sur Internet. Il y avait des chiens, des voitures intéressantes et des clips de personnes enregistrées par les caméras Tesla trébuchant et tombant. Il y avait aussi du contenu troublant, comme quelqu’un traîné dans une voiture apparemment contre sa volonté, a déclaré un ancien employé.
Des clips vidéo d’accidents impliquant Teslas ont également été parfois partagés dans des discussions privées sur Mattermost, ont déclaré plusieurs anciens employés. Il s’agissait notamment d’exemples de personnes conduisant mal ou de collisions impliquant des personnes heurtées alors qu’elles conduisaient du vélo – comme celle avec l’enfant – ou une motocyclette. Certains étiqueteurs de données rembobinaient ces clips et les lisaient au ralenti.
Parfois, les dirigeants de Tesla réprimaient le partage inapproprié d’images sur les chaînes publiques de Mattermost, car ils affirmaient que la pratique violait la politique de l’entreprise. Pourtant, des captures d’écran et des mèmes basés sur eux ont continué à circuler via des chats privés sur la plate-forme, ont déclaré plusieurs anciens employés. Les travailleurs les ont partagés individuellement ou en petits groupes pas plus tard qu’au milieu de l’année dernière.
L’un des avantages de travailler pour Tesla en tant qu’étiqueteuse de données à San Mateo était la chance de gagner un prix – l’utilisation d’une voiture de société pendant un jour ou deux, selon deux anciens employés.
Mais certains des heureux gagnants sont devenus paranoïaques en conduisant les voitures électriques.
« Savoir combien de données ces véhicules sont capables de collecter a certainement rendu les gens nerveux », a déclaré un ancien employé.
Rapporté par Steve Stecklow et Waylon Cunningham à Londres et Hyunjoo Jin à San Francisco. Edité par Peter Hirschberg.
Nos normes : Les principes de confiance de Thomson Reuters.
