L'IA peut utiliser les données d'un casque VR pour prédire les données personnelles : chercheurs

Mélanger réalité virtuelle et intelligence artificielle pourrait se transformer en un cauchemar en matière de confidentialité.

En analysant la façon dont les gens bougeaient lorsqu'ils portaient des casques de réalité virtuelle, ont indiqué les chercheurs, un modèle d'apprentissage automatique a prédit avec précision leur taille, leur poids, leur âge, leur état civil et bien plus encore la plupart du temps. L’ouvrage expose comment l’intelligence artificielle pourrait être utilisée pour deviner des données personnelles, sans que les utilisateurs aient à les révéler directement.

Dans une étude réalisée en février à l'Université de Californie à Berkeley, les chercheurs ont pu sélectionner une seule personne parmi plus de 50 000 autres utilisateurs de réalité virtuelle avec une précision de plus de 94 %. Ils ont obtenu ce résultat après avoir analysé seulement 200 secondes de données de mouvement. Dans une deuxième étude réalisée en juin, les chercheurs ont déterminé la taille, le poids, la taille des pieds et le pays d'une personne avec une précision de plus de 80 % en utilisant les données de 1 000 personnes jouant au jeu VR populaire Beat Saber. Même les informations personnelles telles que l'état civil, la situation professionnelle et l'origine ethnique pourraient être identifiées avec une précision de plus de 70 %.

Les chercheurs ont utilisé un modèle d’apprentissage automatique pour analyser les données téléchargées sur les casques de réalité virtuelle, telles que les mouvements des yeux ou des mains. "Les critères les plus simples pour le modèle sont l'âge, le sexe, l'origine ethnique et le pays", a déclaré le chercheur principal Vivek Nair de l'UC Berkeley. Pour déterminer l'âge d'une personne, par exemple, le modèle pourrait deviner en fonction de la rapidité avec laquelle elle atteint une cible virtuelle. Avoir un temps de réaction plus rapide est corrélé à une meilleure vue et à un âge plus jeune. "Mais il y a même des choses comme votre niveau de revenu, votre statut de handicap, votre état de santé, et même des choses comme vos préférences politiques", a-t-il déclaré.

Près de la moitié des participants aux deux études ont utilisé Quest 2 de Meta Platforms Inc., 16 % ont utilisé le Valve Index et les participants restants ont utilisé d'autres casques tels que le HTC Vive ou le Samsung Windows Mixed Reality. Les casques de réalité virtuelle capturent des données qui ne seraient pas disponibles via un site Web ou une application traditionnelle, telles que le regard d'un utilisateur, son langage corporel, ses proportions corporelles et ses expressions faciales, a déclaré Jay Stanley, analyste politique principal à l'American Civil Liberties Union. "Cela rassemble tout un tas d'autres problèmes de confidentialité, mais les intensifie également."

Meta, qui tire l'essentiel de son argent de la publicité basée sur les données des utilisateurs, s'appuie déjà sur l'apprentissage automatique pour combler les lacunes de ce qu'elle sait sur les gens, même s'il n'est pas clair quelle quantité de données VR est impliquée. En 2021, Apple a apporté des modifications à sa politique de confidentialité qui limitaient la quantité de données que Meta pouvait suivre sur les iPhones, effaçant ainsi 10 milliards de dollars de revenus pour le géant des médias sociaux. Cela a obligé l’entreprise à investir dans l’IA. Cette année, Meta a renoué avec une croissance des revenus à deux chiffres, après avoir amélioré son IA pour prédire le contenu et les publicités que les gens souhaitent voir.

Meta diffuse des publicités limitées dans les casques VR depuis 2021 et a déclaré à l'époque qu'elle n'utiliserait pas les données traitées et stockées sur les appareils, telles que les images de mains, pour cibler les publicités. Lorsqu'on lui a demandé plus de détails sur la politique relative aux données dérivées de son casque, Meta a dirigé Bloomberg vers son centre de sécurité Quest, où la société explique comment les porteurs peuvent définir leur avatar, leur photo de profil, leur nom et leur nom d'utilisateur comme étant privés, offrant ainsi un certain contrôle sur qui. les autres peuvent le voir. La société explique également que « les données envoyées et stockées sur nos serveurs seront dissociées de votre compte lorsque nous n’en aurons plus besoin pour fournir le service ou améliorer la fonction de suivi oculaire ».

Meta a fait l'objet d'un examen minutieux dans le passé pour avoir collecté des données personnelles sensibles sur ses utilisateurs. En 2021, Meta a fermé son système de reconnaissance faciale et supprimé plus d'un milliard d'images faciales après avoir fait face à des pressions réglementaires. Les données biométriques telles que les images faciales sont particulièrement sensibles car elles ne peuvent pas changer et peuvent facilement identifier un individu spécifique. Nair a déclaré que les casques VR capturent des données tout aussi sensibles, mais comme la technologie est plus récente, les utilisateurs et les régulateurs ne la comprennent pas encore, ce qui la rend potentiellement plus dangereuse.