Votre voiture vous regarde ! Bienvenue dans l’âge de l’espionnage algorithmique !

L’avertissement vient de l’AIVD (Algemene Inlichtingen- en Veiligheidsdienst). Nos voitures nous surveillent. Jusqu’où ? Axel Legay analyse les risques. 

Dans un document officiel, publié le 30 septembre, l’AIVD appelle à une prise de conscience des risques d’espionnage liés aux véhicules modernes. De plus en plus connectés, ils collectent non seulement des données sur leur fonctionnement, mais aussi sur leurs occupants, ainsi que les objets et les personnes à proximité immédiate. Divers acteurs, y compris étatiques, peuvent accéder à ces données.

Récemment, encore, des voitures de location chinoises ont filmé des exercices militaires norvégiens et stocké des codes d’accès pour ouvrir des portes et des grilles. Au moins deux étaient des véhicules électriques Deepal de Hertz Norway, détenus par le chinois Geely via Volvo. On ignore si les données ont quitté ou pas les voitures…

« Une voiture moderne connaît sa position et peut ainsi révéler où son utilisateur habite, travaille ou se rend régulièrement, rappelle Axel Legay, Expert in AI & Cyber Security. Elle peut connaître les téléphones qui se connectent à son système, dispose de microphones destinés aux appels ou aux commandes vocales et embarque un nombre croissant de caméras orientées vers l’extérieur, voire vers l’habitacle. Elle communique également avec des infrastructures distantes et peut recevoir des mises à jour logicielles susceptibles de modifier son fonctionnement. »

Chacune de ces technologies possède une justification parfaitement légitime et apporte souvent un véritable service au conducteur. Mais lorsqu’on les rassemble, la voiture devient une formidable plateforme mobile de collecte de données. « Nous avons peut-être construit, sans réellement nous en rendre compte, l’un des plus grands réseaux de capteurs mobiles jamais déployés. »

Quand la voiture devient un enjeu de souveraineté

La progression spectaculaire des constructeurs chinois sur le marché automobile européen est généralement présentée comme une bataille industrielle. « Nous parlons de prix, de batteries, d’autonomie, de compétitivité ou de droits de douane. Mais à partir du moment où une voiture devient un système informatique connecté, la provenance et le contrôle de ses composants numériques deviennent également des questions de souveraineté. »

Il serait évidemment incorrect d’affirmer qu’un véhicule espionne son propriétaire simplement parce qu’il a été construit en Chine. La bonne question est plutôt de savoir qui contrôle son logiciel et ses données. Où partent les informations produites par le véhicule ? Où sont-elles stockées ? Quels acteurs peuvent y accéder ? Quels composants communiquent avec l’extérieur ? Qui développe les logiciels et, surtout, qui peut les modifier à distance ?

Ce sont finalement les mêmes questions que l’Europe s’est déjà posées à propos des équipements télécoms, des infrastructures cloud ou de certaines technologies critiques. « La différence est que ces interrogations arrivent désormais dans un objet extrêmement banal, présent par millions sur nos routes et susceptible de circuler quotidiennement autour d’entreprises, de centres de recherche, d’administrations ou d’installations militaires. »

On pourrait évidemment répondre à ces inquiétudes par davantage d’audits. En pratique, une automobile contemporaine est un assemblage extrêmement complexe de calculateurs, de logiciels, de firmwares, de composants électroniques et de services cloud provenant de nombreux fournisseurs. « Un audit peut analyser les communications, rechercher des vulnérabilités, tester certains mécanismes de sécurité ou vérifier le fonctionnement de composants précis, enchaîne Axel Legay. Démontrer l’absence absolue de comportements cachés dans un ensemble aussi vaste est autrement plus difficile… »

La question de la confiance devient centrale

Une autre difficulté vient du caractère évolutif de ces systèmes. Que signifie certifier aujourd’hui un véhicule dont le logiciel pourra être modifié demain par une mise à jour à distance ? Un audit réalisé à un instant donné constitue nécessairement une photographie d’un système qui, lui, continue d’évoluer. « Il faut donc contrôler non seulement le produit initial, mais également la chaîne permettant de le modifier durant toute sa durée de vie. »

L’IA ajoute encore un niveau de complexité. Un modèle d’apprentissage automatique ne s’audite pas exactement comme un programme traditionnel dont on peut suivre les instructions les unes après les autres. Il faut également tester ses comportements, comprendre les données auxquelles il accède, les interfaces qu’il peut utiliser et les actions qu’il est autorisé à effectuer. « Lorsque certains modèles, données ou composants restent propriétaires et inaccessibles à l’auditeur, la question de la confiance devient centrale. »

Pour une application musicale, ce risque peut paraître relativement abstrait. Pour un véhicule équipé de microphones, de caméras et d’un GPS, capable de circuler autour d’un ministère, d’un centre de recherche ou d’une installation militaire, il prend une tout autre dimension.

De l’espion humain à l’espionnage industriel

Cette évolution devient particulièrement intéressante lorsqu’on la replace dans l’histoire du renseignement, estime Axel Legay. Suivre une personne nécessitait traditionnellement des agents. Observer durablement un bâtiment demandait de positionner quelqu’un ou quelque chose devant celui-ci. Installer un microphone impliquait généralement un accès physique à la cible, tandis qu’intercepter une conversation supposait de réussir à s’en approcher suffisamment.

Le numérique a déjà profondément modifié ce modèle. Les opérations de cyberespionnage attribuées ces dernières années à des services étatiques, montrent que l’accès à distance à des systèmes informatiques peut fournir des renseignements autrefois obtenus par des opérations beaucoup plus lourdes. Plusieurs affaires européennes ont également montré comment collecte numérique, renseignement humain et actions réalisées sur le terrain peuvent désormais se compléter.

« Les objets connectés pourraient constituer une nouvelle étape de cette évolution. Pourquoi installer une caméra devant un bâtiment si de très nombreuses caméras mobiles passent déjà quotidiennement devant celui-ci ? Pourquoi suivre continuellement une personne si différents systèmes numériques permettent de reconstruire une partie de ses déplacements ? Et pourquoi chercher à introduire discrètement un microphone dans certains environnements si ceux-ci en contiennent déjà plusieurs ? »

Cela ne signifie évidemment pas qu’un service de renseignement possède aujourd’hui un accès généralisé aux véhicules connectés. La conclusion serait excessive. Cela signifie en revanche que l’infrastructure technique susceptible de rendre certaines formes de surveillance beaucoup plus simples est progressivement en train de se construire autour de nous.

L’IA change l’équation

Il subsiste néanmoins une limite considérable : la quantité de données. Des milliers de véhicules équipés de plusieurs caméras peuvent produire un volume gigantesque d’images auquel s’ajoutent positions, horaires, données techniques et, potentiellement, informations sonores. Même un service disposant de moyens considérables ne pourrait placer suffisamment d’analystes derrière des écrans pour examiner continuellement un tel volume.

C’est précisément ici que l’IA change l’équation. Elle permet déjà d’analyser des images, de reconnaître des objets, de transcrire des conversations, de rechercher des termes particuliers, d’identifier des régularités ou de corréler différentes sources d’information. « Il ne serait donc plus nécessaire de demander à un analyste de visionner dix mille heures d’enregistrement. Un système pourrait rechercher les occurrences d’un véhicule devant un bâtiment, identifier certaines coïncidences dans des déplacements ou isoler les éléments correspondant à des critères prédéfinis. »

La rupture n’est donc pas nécessairement dans la collecte. Nous savons collecter des quantités gigantesques d’informations depuis longtemps. Elle se situe dans notre capacité nouvelle à transformer automatiquement cette masse en renseignements exploitables. La combinaison entre capteurs omniprésents, connectivité permanente et IA pourrait ainsi faire passer certaines formes de surveillance d’une logique artisanale à une logique industrielle.

Et la voiture n’est que le début

La voiture n’est donc que l’un des éléments d’un phénomène beaucoup plus vaste : nous transformons progressivement notre environnement physique en un immense réseau de capteurs. Ces dispositifs fonctionnent encore largement comme des systèmes distincts, mais l’intelligence artificielle rend progressivement possible l’analyse et le croisement de volumes d’informations qu’aucun être humain ne pourrait traiter seul.

« C’est probablement ici que se trouve le véritable enjeu des prochaines années, analyse Axel Legay. La question ne sera plus seulement de savoir si tel objet connecté est vulnérable ou si telle entreprise collecte trop de données. Il faudra également comprendre ce qu’il devient possible de déduire lorsque plusieurs sources apparemment anodines sont combinées. »

Cette transformation oblige finalement à revoir notre définition même de la cybersécurité. Pendant longtemps, nous avons protégé des ordinateurs, puis des réseaux, des smartphones et des infrastructures cloud. Nous devons désormais protéger des voitures, des bâtiments, des caméras, des montres et une multitude d’objets capables de percevoir leur environnement. « La frontière entre cybersécurité, protection de la vie privée, renseignement et sécurité physique devient de plus en plus difficile à tracer. »

Fermer la porte ne suffit plus

Pour les entreprises et administrations manipulant des informations sensibles, les conséquences seront très concrètes. Une salle de réunion sécurisée ne pourra plus être considérée comme telle simplement parce que l’on en ferme la porte. Il faudra également savoir quels appareils s’y trouvent, quels capteurs ils possèdent, avec quels systèmes ils communiquent, qui contrôle leur logiciel et quelles modifications peuvent leur être apportées à distance.

« Pendant des décennies, les espions cherchaient à installer des microphones dans nos voitures. Aujourd’hui, nous les achetons avec. Et demain, une IA pourrait être chargée de les écouter ! »