De risico’s van AI nemen sneller toe dan de waarde die het genereert

Aangezien de risico’s van AI sneller toenemen dan de toegevoegde waarde, stelt Gartner een toezichthouder voor om de situatie te keren. En zo weer een evenwicht te vinden.

„Hoewel veel organisaties dankzij AI incidentele successen boeken, hebben ze moeite om deze resultaten consistent te herhalen en op bedrijfsbrede schaal toe te passen.”

Succes op het gebied van AI hangt af van het vermogen om een dynamiek te creëren waarmee de waarde kan worden vergroot, terwijl tegelijkertijd wordt voorkomen dat de risico’s toenemen. „Het beste wat een CIO kan doen, is de waarde afstemmen op het risico, en de beveiliging op het bestuur,” aldus Daryl Plummer, Distinguished VP Analyst, Gartner Fellow & Chief of Research. „Afstemming is de sleutel!”

Dit was het hoofdthema van de openingsconferentie van het Gartner IT Symposium/Xpo in Barcelona, waar zo’n 6.500 CIO’s en leidinggevenden uit de IT-sector aanwezig waren. De boodschap: om duurzaam succes te garanderen, moeten CIO’s een evenwicht vinden tussen de waarde die AI genereert en de risico’s die het met zich meebrengt.

Een dynamiek creëren waarmee waarde kan worden vergroot en tegelijkertijd wordt voorkomen dat risico’s toenemen

Bedrijven maken meer dan ooit gebruik van AI; 58 % van de leidinggevenden geeft zelfs aan positieve waarde te halen uit hun AI-initiatieven, zo blijkt uit een enquête die Gartner in het tweede kwartaal van 2026 heeft gehouden onder meer dan 1.000 functionele leidinggevenden. Succes is echter iets anders. Dat hangt af van het vermogen om een dynamiek te creëren waarmee de waarde kan worden vergroot, terwijl tegelijkertijd wordt voorkomen dat de risico’s toenemen.

„Afstemming betekent niet dat iedereen dezelfde waarde krijgt of aan hetzelfde risiconiveau wordt blootgesteld”, legt Kristin Moyer, Distinguished VP Analyst & Gartner Fellow, uit. Het gaat veeleer om een samenhangende aanpak om de relatie tussen waarde en risico te structureren. ” 71 % van de organisaties is van plan om in de komende 12 maanden agent-AI in te zetten, zo berekende Gartner. Toch beschikt slechts 21 % van hen momenteel over governance-capaciteiten die geschikt zijn voor dit type AI. „Deze onevenwichtigheid maakt het moeilijk om waarde te creëren in een tempo dat hoger ligt dan het tempo waarin AI risico’s genereert…“

Twee krachten: dynamiek en weerstand

Gartner beveelt twee maatregelen aan om de door AI gegenereerde waarde te vergroten en tegelijkertijd de risico’s te beheersen. De eerste bestaat uit het benutten van het Value-Risk Flywheel-model, waarmee de relatie tussen de opbouw van waarde en de opbouw van risico’s in beeld kan worden gebracht.

„Twee krachten bepalen het mechanisme: dynamiek en weerstand. Dynamiek versnelt het behalen van resultaten, terwijl weerstand deze vertraagt. Maar dynamiek is niet altijd positief. En een bepaalde vorm van weerstand kan juist gunstig blijken te zijn”, legt Daryl Plummer uit.

Bij softwareontwikkeling kan de waarde bijvoorbeeld sneller groeien dan het risico. AI genereert inmiddels een aanzienlijk deel van de code in software die in productie is. Zo bevrijdt het ontwikkelaars van de beperking (de weerstand) die gepaard gaat met handmatig coderen, waardoor zij een positieve dynamiek kunnen genereren dankzij snelle prototyping, behoeftegerichte ontwikkeling, architecturale reflectie en productengineering.

Beveiliging afstemmen op governance via een ‘regelaar’ van het mechanisme

„Iedereen ervaart waarde en risico op een iets andere manier;

daarom is er een element nodig om het hele systeem te coördineren. Deze mechanismen vereisen een ‘regelaar’, die centraal staat en bepaalt wanneer de waarde het risico rechtvaardigt, welk perspectief op de waarde voorrang moet krijgen en hoe de veiligheid van de organisatie kan worden gewaarborgd, aldus Daryl Plummer. Dat is precies de rol van deze regelaar, ongeacht de context.”

Afhankelijk van de functie kan de perceptie van hetzelfde AI-gerelateerde initiatief variëren, legt Kristin Moyer uit. De regulator van het mechanisme – de Flywheel Governor – vormt een virtuele structuur die belast is met het bepalen van de strategie om de veiligheid van de AI te waarborgen. „Het gaat om een gecentraliseerde besluitvormingsinstantie die aanbevelingen formuleert en richting geeft aan acties op het gebied van verantwoordelijkheid, technologie en economie.” ”

En ze concludeert: „Deze regulator is het laatste stukje van de ‘waarde-risico’-puzzel waarover organisaties moeten beschikken. Dankzij deze regulator veranderen dynamieken en weerstanden van een schadelijke in een gunstige aard. Bovendien maakt hij het mogelijk om een constante afstemming tussen de waarde- en risicomechanismen te handhaven.”