Uw auto houdt u in de gaten! Welkom in het tijdperk van algoritmische spionage!

De waarschuwing komt van de AIVD (Algemene Inlichtingen- en Veiligheidsdienst). Onze auto’s houden ons in de gaten. Hoe ver gaat dat? Axel Legay analyseert de risico’s.

In een officieel document, gepubliceerd op 30 september, roept de AIVD op tot bewustwording van de spionagerisico’s die gepaard gaan met moderne voertuigen. Deze voertuigen zijn steeds meer verbonden en verzamelen niet alleen gegevens over hun werking, maar ook over hun inzittenden, evenals over voorwerpen en personen in de directe omgeving. Diverse partijen, waaronder overheidsinstanties, hebben toegang tot deze gegevens.

Onlangs nog hebben Chinese huurauto’s Noorse militaire oefeningen gefilmd en toegangscodes opgeslagen om deuren en hekken te openen. Ten minste twee daarvan waren elektrische Deepal-voertuigen van Hertz Norway, die via Volvo in handen zijn van het Chinese Geely. Het is onbekend of de gegevens de auto’s al dan niet hebben verlaten…

„Een moderne auto weet waar hij zich bevindt en kan zo onthullen waar de gebruiker woont, werkt of regelmatig naartoe gaat, zegt Axel Legay, expert op het gebied van AI en cyberbeveiliging. Hij kan zien welke telefoons verbinding maken met zijn systeem, beschikt over microfoons voor telefoongesprekken of spraakopdrachten en is uitgerust met een groeiend aantal camera’s die naar buiten of zelfs naar het interieur zijn gericht. Hij communiceert ook met externe infrastructuren en kan software-updates ontvangen die de werking ervan kunnen beïnvloeden. »

Elk van deze technologieën heeft een volkomen legitieme reden en biedt de bestuurder vaak een echte meerwaarde. Maar wanneer ze worden gecombineerd, wordt de auto een formidabel mobiel platform voor het verzamelen van gegevens. „Misschien hebben we, zonder dat we het ons echt realiseerden, een van de grootste netwerken van mobiele sensoren ooit ingezet. »

Wanneer de auto een kwestie van soevereiniteit wordt

De spectaculaire opmars van Chinese autofabrikanten op de Europese automarkt wordt doorgaans voorgesteld als een industriële strijd. „We hebben het over prijzen, accu’s, actieradius, concurrentievermogen of invoerrechten. Maar zodra een auto een verbonden computersysteem wordt, worden de herkomst en de controle over de digitale componenten ervan ook kwesties van soevereiniteit. »

Het zou uiteraard onjuist zijn te beweren dat een voertuig zijn eigenaar bespioneert, simpelweg omdat het in China is gebouwd. De juiste vraag is veeleer wie de controle heeft over de software en de gegevens. Waar gaat de door het voertuig gegenereerde informatie naartoe? Waar wordt deze opgeslagen? Welke partijen hebben er toegang toe? Welke onderdelen communiceren met de buitenwereld? Wie ontwikkelt de software en, vooral, wie kan deze op afstand wijzigen?

Dit zijn uiteindelijk dezelfde vragen die Europa zich al heeft gesteld met betrekking tot telecommunicatieapparatuur, cloudinfrastructuur of bepaalde kritieke technologieën. „Het verschil is dat deze vragen nu betrekking hebben op een uiterst alledaags voorwerp, dat met miljoenen op onze wegen rijdt en dagelijks langs bedrijven, onderzoekscentra, overheidsinstanties of militaire installaties kan rijden. ”

Op deze zorgen zou natuurlijk kunnen worden gereageerd met meer audits. In de praktijk is een moderne auto echter een uiterst complex geheel van computers, software, firmware, elektronische componenten en clouddiensten afkomstig van talrijke leveranciers. „Een audit kan de communicatie analyseren, zoeken naar kwetsbaarheden, bepaalde beveiligingsmechanismen testen of de werking van specifieke componenten controleren, vervolgt Axel Legay. Het is echter veel moeilijker om aan te tonen dat er in zo’n omvangrijk geheel absoluut geen verborgen gedragingen voorkomen… »

De kwestie van vertrouwen staat centraal

Een andere moeilijkheid komt voort uit het evoluerende karakter van deze systemen. Wat betekent het om vandaag een voertuig te certificeren waarvan de software morgen via een update op afstand kan worden gewijzigd? Een audit die op een bepaald moment wordt uitgevoerd, is noodzakelijkerwijs een momentopname van een systeem dat zelf blijft evolueren. „We moeten dus niet alleen het oorspronkelijke product controleren, maar ook de keten waarmee het gedurende zijn hele levensduur kan worden aangepast.”

AI voegt nog een extra niveau van complexiteit toe. Een model voor machine learning kan niet op precies dezelfde manier worden gecontroleerd als een traditioneel programma waarvan de instructies één voor één kunnen worden gevolgd. Ook moet het gedrag ervan worden getest, moet inzicht worden verkregen in de gegevens waartoe het toegang heeft, de interfaces die het kan gebruiken en de acties die het mag uitvoeren. „Wanneer bepaalde modellen, gegevens of componenten eigendom blijven en ontoegankelijk zijn voor de auditor, wordt de kwestie van vertrouwen cruciaal.”

Voor een muziekapp lijkt dit risico misschien relatief abstract. Voor een voertuig dat is uitgerust met microfoons, camera’s en een gps, en dat in staat is om rond een ministerie, een onderzoekscentrum of een militaire installatie te rijden, krijgt het een heel andere dimensie.

Van menselijke spionage tot industriële spionage

Deze ontwikkeling wordt bijzonder interessant wanneer we haar in de context van de geschiedenis van de inlichtingendiensten plaatsen, meent Axel Legay. Om iemand te volgen waren van oudsher agenten nodig. Om een gebouw langdurig te observeren moest er iemand of iets voor het gebouw worden geplaatst. Het installeren van een microfoon vereiste doorgaans fysieke toegang tot het doelwit, terwijl het afluisteren van een gesprek betekende dat men dicht genoeg in de buurt moest komen.

De digitale technologie heeft dit model al ingrijpend veranderd. De cyberspionageoperaties die de afgelopen jaren aan staatsdiensten zijn toegeschreven, tonen aan dat toegang op afstand tot computersystemen inlichtingen kan opleveren die vroeger alleen via veel omvangrijkere operaties konden worden verkregen. Verschillende Europese zaken hebben ook aangetoond hoe digitale gegevensverzameling, menselijke inlichtingen en acties in het veld elkaar nu kunnen aanvullen.

„Verbonden apparaten zouden een nieuwe stap in deze ontwikkeling kunnen vormen. Waarom zou je een camera voor een gebouw installeren als er dagelijks al talloze mobiele camera’s langs dat gebouw rijden? Waarom zou je iemand continu volgen als verschillende digitale systemen het mogelijk maken een deel van zijn verplaatsingen te reconstrueren? En waarom zou je proberen stiekem een microfoon in bepaalde omgevingen te plaatsen als die er al meerdere bevatten? ”

Dit betekent uiteraard niet dat een inlichtingendienst vandaag de dag al algemene toegang heeft tot verbonden voertuigen. Dat zou een te vergaande conclusie zijn. Het betekent daarentegen wel dat de technische infrastructuur die bepaalde vormen van surveillance aanzienlijk eenvoudiger kan maken, zich geleidelijk om ons heen aan het ontwikkelen is.

AI verandert de vergelijking

Er blijft echter een aanzienlijke beperking bestaan: de hoeveelheid gegevens. Duizenden voertuigen die zijn uitgerust met meerdere camera’s kunnen een gigantische hoeveelheid beeldmateriaal produceren, aangevuld met posities, tijdstippen, technische gegevens en, mogelijk, geluidsinformatie. Zelfs een dienst met aanzienlijke middelen zou niet genoeg analisten achter de schermen kunnen zetten om zo’n volume continu te onderzoeken.

Juist hier verandert AI de situatie. AI maakt het nu al mogelijk om beelden te analyseren, objecten te herkennen, gesprekken te transcriberen, naar specifieke termen te zoeken, patronen te identificeren of verschillende informatiebronnen met elkaar in verband te brengen. „Het zou dus niet langer nodig zijn om een analist te vragen tienduizend uur aan opnames te bekijken. Een systeem zou kunnen zoeken naar gevallen waarin een voertuig voor een gebouw staat, bepaalde samenvallen in verplaatsingen kunnen identificeren of elementen kunnen isoleren die aan vooraf gedefinieerde criteria voldoen.”

De doorbraak zit dus niet per se in het verzamelen. We weten al lang hoe we gigantische hoeveelheden informatie moeten verzamelen. De doorbraak ligt in ons nieuwe vermogen om deze massa automatisch om te zetten in bruikbare inlichtingen. De combinatie van alomtegenwoordige sensoren, permanente connectiviteit en AI zou bepaalde vormen van bewaking zo kunnen doen evolueren van een ambachtelijke naar een industriële aanpak.

En de auto is nog maar het begin

De auto is dus slechts één van de elementen van een veel omvangrijker fenomeen: we transformeren onze fysieke omgeving geleidelijk tot een immens netwerk van sensoren. Deze apparaten functioneren nog grotendeels als afzonderlijke systemen, maar kunstmatige intelligentie maakt het geleidelijk mogelijk om hoeveelheden informatie te analyseren en te kruisvergelijken die geen enkel mens in zijn eentje zou kunnen verwerken.

„Hier ligt waarschijnlijk de echte uitdaging voor de komende jaren”, analyseert Axel Legay. De vraag zal niet langer alleen zijn of een bepaald verbonden apparaat kwetsbaar is of dat een bepaald bedrijf te veel gegevens verzamelt. We zullen ook moeten begrijpen welke conclusies er kunnen worden getrokken wanneer verschillende, op het eerste gezicht onschuldige bronnen worden gecombineerd.”

Deze transformatie dwingt ons uiteindelijk om onze definitie van cyberbeveiliging zelf te herzien. Lange tijd hebben we computers beschermd, daarna netwerken, smartphones en cloudinfrastructuren. Nu moeten we auto’s, gebouwen, camera’s, horloges en een veelheid aan objecten beschermen die hun omgeving kunnen waarnemen. „De grens tussen cyberveiligheid, privacybescherming, inlichtingenwerk en fysieke beveiliging wordt steeds moeilijker te trekken.“

De deur op slot doen is niet meer voldoende

Voor bedrijven en overheidsinstanties die met gevoelige informatie werken, zullen de gevolgen zeer concreet zijn. Een beveiligde vergaderruimte kan niet langer als zodanig worden beschouwd, simpelweg omdat de deur op slot is. Men zal ook moeten weten welke apparaten zich daar bevinden, welke sensoren ze hebben, met welke systemen ze communiceren, wie de software beheert en welke wijzigingen er op afstand in kunnen worden aangebracht.

„Decennialang probeerden spionnen microfoons in onze auto’s te installeren. Tegenwoordig kopen we ze erbij. En morgen zou een AI de taak kunnen krijgen om ernaar te luisteren!”