„AI versterkt de bedreigingen, vergroot het aanvalsoppervlak en accentueert reeds bestaande kwetsbaarheden”
AI is uitgegroeid tot een belangrijk transversaal risico dat gevolgen heeft voor de gehele organisatie en niet langer beperkt blijft tot één technische afdeling. Aangezien het als een strategische prioriteit wordt beschouwd, vereist het een alomvattend beheer. Dat is de missie van TrendAI™. Uitleg door Nadine Serneels, Country Director, TrendAI BeLux.
“AI heeft een nieuw tijdperk van cyberdreigingen ingeluid: sneller, misleidender en gemakkelijker op grote schaal in te zetten,” constateert Nadine Serneels, Country Director, TrendAI™ BeLux. De meeste bedrijven zijn zich bewust van de risico’s. Maar zonder ze goed te doorgronden. ”
AI beperkt zich niet langer tot afzonderlijke projecten. Het wordt nu geïntegreerd in bedrijfsapplicaties, SaaS-platforms, ontwikkelomgevingen en, in toenemende mate, in de cyberbeveiligingsoplossingen zelf. Deze geleidelijke verspreiding transformeert het informatiesysteem, maar maakt het ook moeilijker om het gebruik ervan in zijn geheel te overzien.
“We kunnen spreken van een transversaal bedrijfsproject. AI betreft niet langer alleen de IT, en dus de CIO, maar ook de bedrijfsfuncties. Organisaties moeten zich afvragen: beschik ik over de interne competenties om deze technologieën te gebruiken? Zijn mijn modellen getraind op mijn eigen data? Beschik ik over de nodige infrastructuur en budgetten? Dat is onze missie bij TrendAI™. ”
Een radicaal ander risicoprofiel
Er is duidelijk sprake van een paradigmaverschuiving. Gisteren nog was cyberbeveiliging beperkt; de IT-afdeling beheerde het. Vandaag de dag, met AI, betreden we een nieuwe dimensie, vervolgt Nadine Serneels. “De risico’s zijn operationeel, juridisch en reputatiegerelateerd. AI versterkt de bedreigingen, vergroot het aanvalsoppervlak en accentueert reeds bestaande kwetsbaarheden. ”
Bovendien ontstaan er aansprakelijkheidsrisico’s, gekoppeld aan geautomatiseerde besluitvorming, bevooroordeelde of discriminerende modellen en misbruik van intellectueel eigendom. En er blijven onduidelijkheden bestaan over de aansprakelijkheid van partijen bij schade die voortvloeit uit een AI-gerelateerd besluit.
Meer is er niet nodig om de situatie op het gebied van veiligheid op zijn kop te zetten. Wanneer AI-systemen zelfstandig kunnen plannen, handelen en communiceren met andere tools, is het risicoprofiel radicaal anders dan dat van traditionele AI…
Een kwestie van governance
“Wat governance betreft, zijn de regelingen in veel organisaties nog in ontwikkeling, constateert Nadine Serneels. De verantwoordelijkheden zijn niet altijd duidelijk vastgelegd en de gebruikskaders blijven evolueren, in een regelgevingsomgeving die zelf nog in opbouw is. Dat is nogal wat!”
Het gaat niet langer alleen om het invoeren van AI, maar om het volgen van de daadwerkelijke verspreiding ervan in een informatiesysteem waar de toepassingen zich vermenigvuldigen en elkaar overlappen. De vraag wordt dan minder technologisch dan organisatorisch: zichtbaarheid terugwinnen in een omgeving die er steeds minder van biedt.
“Veel meer dan alleen een imagoverandering weerspiegelt deze merkvernieuwing een diepgaande strategische verandering, ingegeven door een resoluut op AI gerichte positionering en passend in een van de meest ingrijpende technologische transformaties van onze tijd.”
Van een productportfolio naar een uniform platform
TrendAI™ kan agentgebaseerde AI transformeren van een risicovolle ervaring naar een architectuur die klaar is voor de onderneming. Organisaties kunnen zo vertrouwensgrenzen definiëren, beleid in realtime toepassen en continu inzicht behouden in het gedrag van autonome AI, terwijl de flexibiliteit en kracht behouden blijven die de waarde van agentgebaseerde systemen uitmaken.
“Concreet,” vervolgt Nadine Serneels, “gaan we van een portfolio van toonaangevende producten naar een uniform AI-cyberbeveiligingsplatform voor bedrijven.” TrendAI™ voegt namelijk een beveiligingslaag op bedrijfsniveau toe die het gedrag van de agents regelt, de tools waartoe ze toegang hebben en de manier waarop risico’s worden gedetecteerd en aangepakt, voor, tijdens en na de uitvoering.
Ten slotte is de aanpak van TrendAI™ gebaseerd op vier fundamentele principes: zichtbaarheid op het gebruik van AI, systemen en agents die in verschillende omgevingen met elkaar interageren; inzicht in de context en de onderliggende intenties van deze interacties; de toepassing van beleid en controle op het gebruik en de acties die door de agents worden aangestuurd; en de introductie van menselijk toezicht op kritieke beslissingspunten.
