Laten we nadenken over governance en cultuur. En laten we vooruitgaan.

Voor Véronique Van Vlasselaer, Head of AI & Data Science bij SAS EMEA, is de grootste uitdaging niet de snelheid waarmee AI zich ontwikkelt, maar het gebrek aan governance en een AI-cultuur binnen onze organisaties en onze samenleving. “Wacht niet tot morgen: het is tijd om in actie te komen!”

Gaat AI ‘te ver’? We herinneren ons allemaal de opzienbarende oproep van 1.300 medewerkers van AI-bedrijven zoals OpenAI, Anthropic en Google DeepMind om de ontwikkeling van AI wereldwijd te vertragen. Zelfs degenen die vandaag de meest geavanceerde AI-systemen ontwikkelen, maken zich zorgen over het tempo waarin de technologie evolueert!

‘Moeten we daarom de AI afremmen? Ik denk het niet’, zegt Véronique Van Vlasselaer. ‘Dit toont vooral aan dat we moeite hebben om het tempo van de technologische vooruitgang bij te houden. Zowel op maatschappelijk niveau als binnen organisaties ontbreken nog twee essentiële voorwaarden om daadwerkelijk waarde te creëren met AI: een solide governance en AI-geletterdheid. We hoeven dus niet op de pauzeknop te drukken, maar moeten ervoor zorgen dat we AI op een verantwoorde manier ontwikkelen en inzetten!”

Was het een waarschuwing, een oproep tot samenwerking of een marketingstunt? De meningen lopen uiteen over het artikel van Anthropic dat begin juni werd gepubliceerd. Het bedrijf vreest dat de snelle ontwikkeling van AI ons naar een rampscenario leidt, waarin AI-agenten zich voortdurend zouden verbeteren, hun eigen modellen zouden creëren en uiteindelijk de controle zouden overnemen. Volgens Anthropic zou een vertraging of een pauze ons de nodige ademruimte moeten geven om onze achterstand in te halen.

Een pauze is geen optie

Zo’n pauze in de ontwikkeling van AI is uiteraard niet realistisch. En er is geen enkele reden om innovatie af te remmen. In werkelijkheid moeten we hier onderscheid maken tussen twee werelden die parallel aan elkaar evolueren. Enerzijds zijn er de grote taalmodellen zoals ChatGPT, Claude en Gemini, die zichzelf verbeteren en steeds sneller vooruitgang boeken. ert dat het voor wetgevers erg moeilijk is om dit bij te houden en passende regels op te stellen. Tegelijkertijd mogen we niet vergeten dat AI geen autonoom systeem is dat op eigen initiatief beslissingen neemt en bijvoorbeeld op zoek gaat naar kwetsbaarheden en beveiligingslekken binnen organisaties. Het zijn mensen die deze systemen ontwerpen, aansturen en implementeren.

De verantwoordelijkheid voor de handelingen van AI ligt dus uiteindelijk altijd bij deze mensen, vervolgt Véronique Van Vlasselaer. „De echte uitdaging is dan ook niet om de technologie af te remmen, maar om de verantwoordelijkheden duidelijk af te bakenen, transparantie te waarborgen en verantwoording af te dwingen, zodat AI op een veilige en verantwoorde manier wordt ontwikkeld en gebruikt.”

Aan de andere kant zijn er de bedrijven die AI gebruiken. En zij staan nog maar aan het prille begin van hun AI-traject. Ze stuiten op klassieke problemen, met name de moeilijkheid om gegevens te verzamelen die verspreid zijn over de hele organisatie. Vaak richten ze zich ook veel te veel op generatieve AI, die slechts een klein deel van het AI-universum uitmaakt. „In veel bedrijven hebben tools zoals ChatGPT de opkomst van AI versneld, maar de aandacht moet nu uitgaan naar traditionele AI. GenAI biedt namelijk niet altijd een antwoord op de uitdagingen waarmee een bedrijf wordt geconfronteerd, en al helemaal niet op de uitdagingen die de meeste waarde opleveren.”

AI dringt sneller door dan de ondersteunende processen

De kern van het probleem is niet de snelheid waarmee AI zich ontwikkelt, maar het ontbreken van een kader dat bepaalt wat er wel en niet mogelijk is met deze technologie, stelt Véronique Van Vlasselaer. Zowel op regelgevend als op organisatorisch vlak ontbreken duidelijke richtlijnen met betrekking tot AI.

„Wanneer een AI-project misgaat, ligt dat zelden aan de technologie, maar aan een gebrek aan governance!“ Veel organisaties merken dat het gebruik van AI razendsnel toeneemt, veel sneller dan de ondersteunende processen en governancekaders. Daarom richt een groot deel van de inspanningen zich vandaag de dag op het opstellen van richtlijnen voor een verantwoord gebruik van AI binnen bedrijfs . „In de praktijk beginnen veel organisaties hier pas heel laat mee. AI is al doorgedrongen in het dagelijks leven van de medewerkers, terwijl regels op het gebied van verantwoordelijkheid en inzicht in de risico’s vaak nog ontbreken.”

Governance, de basis voor hoogwaardige AI

Het begint allemaal met de gegevens waarmee de AI-systemen worden gevoed. Als die gegevens onbetrouwbaar zijn, hoe kun je dan van een model verwachten dat het tot verstandige conclusies of beslissingen leidt? Datagovernance houdt voor een organisatie in dat zij haar gegevens goed beheert, de gegevensstromen volgt en de kwaliteit ervan controleert.

Ook modellen moeten onderworpen zijn aan governance: ze moeten eerlijk en transparant zijn, en er moet streng toezicht op worden gehouden. Ten slotte zorgt operationele governance ervoor dat de ontwikkelde oplossingen correct blijven functioneren en dat zowel de gegevens- als de modelgovernance gewaarborgd blijven.

Governance hoeft innovatie niet per se in de weg te staan. Door dit principe al vanaf de ontwerpfase in uw modellen te integreren, ontwikkelt u automatisch duurzamere en robuustere oplossingen. Bovendien, zoals Véronique Van Vlasselaer aangeeft: „We moeten streven naar een beter evenwicht tussen de mogelijkheden en het doel van ons gebruik van AI: we moeten ons niet alleen afvragen wat we met AI kunnen doen, maar ook wat we mogen doen en hoe deze technologie de organisatie en de samenleving daadwerkelijk vooruit kan helpen.”

Een onmisbare AI-cultuur

Deze constatering brengt ons terug bij een ander essentieel aspect van AI: de mens. „Ook wij, als gebruikers, hebben geen pauze nodig. Integendeel: het is tijd om in actie te komen”, zegt Véronique Van Vlasselaer. „We moeten de AI-cultuur versterken, zowel in bedrijven als in de hele samenleving. Iedereen lijkt zich tegenwoordig aan AI te wagen, maar slechts weinigen kunnen GenAI onderscheiden van andere vormen ervan!”

Deze behoefte aan een AI-cultuur komt op verschillende niveaus tot uiting: bij bedrijfsleiders die beslissingen nemen met behulp van AI, bij medewerkers die hun dagelijkse taken transformeren dankzij AI-tools en bij eindgebruikers die de effecten ervan ondervinden.

“Het feit dat veel mensen nog steeds medische vragen stellen aan GenAI-tools en soms blindelings vertrouwen stellen in hun antwoorden, toont aan dat we nog een lange weg te gaan hebben. Organisaties, overheden en het onderwijs hebben allemaal een cruciale rol te spelen in de ontwikkeling van de AI-cultuur.”

De oproep van Anthropic moet dan ook in een veel bredere context worden geplaatst. „Hoewel het idee van een pauzeknop voor AI niet realistisch is, moeten we ons wel degelijk buigen over het beheer van AI en ons inzetten om de AI-cultuur te versterken”, concludeert Véronique Van Vlasselaer. „Zodra deze factoren onder controle zijn, volgt de rest vanzelf. En bovenal: wacht niet tot morgen – het is tijd om in actie te komen!”