Espionné par votre aspirateur ? Ce n’est pas le scénario d’une dystopie de science-fiction à petit budget mais bien une possibilité évoquée par le très éminent Massachusetts Institute of Technology (MIT) dans un long article publié sur sa revue en ligne MIT Technology Review.
À voir aussi sur Konbini
En 2020, une série d’images est publiée sur un groupe Facebook et/ou serveur Discord. Les photos, de piètre qualité, montrent des scènes de vie banales. Parmi elles, une photo plutôt intimiste montre une femme assise sur les toilettes, tandis que dans une autre apparaît un enfant d’une dizaine d’années allongé sur le sol d’un couloir – chose plutôt normale pour un gamin.
Mais le problème ne se situe pas dans les images mais plutôt dans leur provenance : elles ont été prises par un aspirateur robot Roomba modèle J7 de la marque iRobot. Ces images ont été envoyées à l’entreprise Scale AI, une start-up qui emploie des travailleur·euse·s dans le monde entier pour faire de “l’annotation de données”. Les employé·e·s passent leurs journées à lire des images, des vidéos ou des sons, puis indiquent ce qu’elles et ils y voient ou entendent : “objet inerte”, “être vivant”, “plante”, “pluie”, “PS5”, “chien”, “tabouret” ou encore “croziflette” – oui, un jour, les GAFAM accepteront cette réalité.
Ce genre d’activités permet d’étiqueter humainement les images et leur contenu afin de nourrir et vérifier des algorithmes de reconnaissance qui pourront refaire automatiquement cette même procédure – avec l’objectif de final de se passer des humains.
Aspirateur annoté
Mais alors, comment de telles images, y compris intimes, se sont retrouvées sur les réseaux ? La MIT Technology Review a en effet mis la main sur quinze de ces images privées et publiées sur les réseaux – désormais supprimées de ces derniers. Il s’agit bien d’images utilisées pour l’annotation de données puisqu’on y trouve des étiquetages tels que : “tv”, “plant_or_flower” ou encore “ceiling_light”.
Les images sont issues de Roomba modèle J7 de la marque iRobot, leader en aspirateurs robotiques acheté par le géant Amazon en août 2022 pour 1,7 milliard de dollars. L’entreprise a ainsi confirmé à la MIT Technology Review que ces images avaient été capturées par des Roomba en 2020, mais que ces derniers sont des prototypes de développement tout particuliers fabriqués dans cette optique et fournis à des “collecteurs de données et employés rémunérés” pour l’occasion. L’entreprise iRobot assure que les prototypes portaient sur eux un autocollant d’avertissement vert vif indiquant un “enregistrement en cours” et que les produits commercialisés ne possèdent pas de telles caméras.
Roomba J7
La MIT Technology Review précise que iRobot n’a pas accepté de fournir les accords de consentement des “collecteurs de données” en question ni même de mettre en relation ces derniers avec les auteurs de la revue. iRobot a déclaré avoir partagé plus de 2 millions d’images avec la start-up Scale AI et une autre quantité inconnue d’images avec d’autres entreprises d’annotation de données du même genre.
James Baussmann, porte-parole d’iRobot, déclare dans un e-mail que sa société a “pris toutes les précautions pour s’assurer que les données personnelles soient traitées en toute sécurité et conformément à la loi”. La présence sur les réseaux des quinze images susmentionnées serait le fruit d’une violation des termes d’un accord de non-divulgation. Le PDG d’iRobot, Colin Angle, a même déclaré que la marque cesserait de travailler avec Scale AI et qu’une enquête en interne avait été ouverte – sans en dévoiler plus sur les modalités, cependant.
Un dérapage incontrôlé ?
Dennis Giese, doctorant à l’université Northeastern, étudie les vulnérabilités de sécurité des appareils connectés. Il explique à la MIT Technology Review que les machines d’aujourd’hui possèdent désormais des “capteurs puissants”, y compris les aspirateurs robots. En 2001, l’Electrolux Trilobite, premier aspirateur autonome, est commercialisé. À l’époque, il utilise les fréquences ultrasons pour ne pas se cogner dans les murs et calculer des schémas de nettoyage primaires.
Electrolux Trilobite, 2.0
Plus de vingt ans après, ce sont désormais de véritables caméras, aidées par des intelligences artificielles, qui équipent les aspirateurs robots, leur permettant de parcourir des chemins aussi optimaux qu’optimisés.
“Nous traitons forcément les machines différemment des humains”, explique Jessica Vitak, professeure au département de communication de l’université du Maryland, à la MIT Technology Review et à son College of Information Studies. “Il est bien plus facile pour moi d’accepter qu’un joli petit aspirateur se déplace dans mon espace que quelqu’un qui se promène dans ma maison avec une caméra.“
Le problème soulevé par le MIT est aussi que les images utilisées par les sociétés de collecte et d’annotations de données pourraient être réutilisées dans de nombreux autres projets liés aux objets connectés du quotidien – et pas seulement votre aspirateur robot. L’absence de floutage des visages sur les images en question pose particulièrement problème en ce qui concerne la confidentialité des données. Le porte-parole d’iRobot explique ainsi qu’il est prévu que les robots “esquivent” les visages humains mais que, pour le moment, “ils doivent d’abord reconnaître ce qu’est un humain”.
Mais “les aspirateurs robots ne sont que le début”, comme le démontre l’article de la MIT Technology Review. Les entreprises d’annotations de données comme Scale AI ont explosé en nombre comme en chiffre d’affaires ces dernières années. Les GAFAM s’intéressent de près aux technologies capables de rendre les objets connectés du quotidien plus alertes de l’environnement qui les entoure et cela passera nécessairement par l’IA et les nombreuses données personnelles dont les algorithmes ont besoin de se nourrir.
