Hoe kunnen bedrijven worden gereorganiseerd om een effectieve samenwerking tussen mensen en AI te bevorderen?

Het vertrouwen in volledig autonome AI-agenten is het afgelopen jaar gedaald van 43% naar 27% vanwege bezorgdheid over privacy en ethiek. Achter deze daling schuilt een echte uitdaging.

“Bedrijven ontdekken dat AI-agenten des te meer impact hebben naarmate mensen actief betrokken blijven”, zegt Franck Greverie, Chief Portfolio & Technology Officer bij Capgemini. Dat is ook de conclusie van het rapport Rise of agentic AI: How trust is the key to human-AI collaboration van het Capgemini Institute. Vertrouwen en menselijk toezicht zijn essentiële factoren om het potentieel van agentische AI ten volle te benutten. De kloof tussen de intentie en het vermogen om AI te implementeren is dan ook een van de belangrijkste belemmeringen voor het benutten van deze kans.

“Om succesvol te zijn, moeten bedrijven zich blijven concentreren op resultaten en hun processen herzien met een ‘AI-first’-benadering”, vervolgt Frank Greverie. “Het succes van deze transformatie hangt af van het creëren van vertrouwen in AI door ervoor te zorgen dat deze op een verantwoorde manier wordt ontwikkeld, waarbij ethiek en veiligheid vanaf het ontwerp worden geïntegreerd…”

De kwestie van vertrouwen impliceert een reorganisatie van bedrijven

Het vertrouwen in volledig autonome AI-agenten is echter sterk gedaald, van 43% naar 27% in één jaar tijd, zo blijkt uit het rapport. Bijna twee op de vijf leidinggevenden zijn nu van mening dat de risico’s van de implementatie ervan groter zijn dan de voordelen. Slechts 40% van de bedrijven zegt vertrouwen te hebben in AI-agenten om taken en processen autonoom uit te voeren, terwijl de meerderheid wantrouwig blijft ten opzichte van deze technologie.

Het vertrouwen neemt echter toe naarmate bedrijven de overstap maken van verkenning naar implementatie: van de bedrijven die zijn begonnen met de implementatie, heeft 47% meer vertrouwen in AI-agenten dan gemiddeld, tegenover 37% in de verkennende fase. “Het is een kwestie vertrouwen, waarbij bedrijven moeten worden gereorganiseerd om een effectieve samenwerking tussen mensen en AI te bevorderen”, aldus Frank Greverie. “Het gaat erom de juiste omstandigheden te creëren waarin deze systemen het menselijk beoordelingsvermogen versterken en de economische prestaties verbeteren.”

De chemie tussen mens en AI, de sleutel tot duurzame acceptatie

De echte belofte van agent-AI ligt in het vermogen om strategische uitdagingen van bedrijven aan te gaan en werkwijzen grondig te herzien, aldus het Capgemini Institute. In de komende 12 maanden is meer dan 60% van de bedrijven van plan hybride teams van mensen en agents op te richten, waarin AI-agents zullen fungeren als ondergeschikten, als hulpmiddelen of ter ondersteuning van menselijke capaciteiten. “Dit betekent dat AI-agenten niet langer als louter hulpmiddelen kunnen worden beschouwd: ze worden volwaardige leden van teams…”

Hoewel bedrijven merken dat de toegevoegde waarde van AI-agenten des te groter is naarmate mensen betrokken blijven, zijn er nog maar weinig bedrijven die klaar zijn om AI-agenten op grote schaal in te zetten. 80% van hen beschikt niet over een voldoende volwassen AI-infrastructuur, zo berekende het Capgemini Institute. En minder dan een op de vijf beschouwt zichzelf als echt klaar op het gebied van data. Ethische bezwaren, zoals gegevensbescherming, algoritmische vooringenomenheid of het gebrek aan verklaarbaarheid, blijven wijdverbreid… maar weinig bedrijven nemen concrete maatregelen.

Om het potentieel van AI-agenten ten volle te benutten, moeten bedrijven verder kijken dan de hype, zo adviseert het rapport. Dat betekent dat processen moeten worden herzien, bedrijfsmodellen opnieuw moeten worden uitgevonden, de organisatiestructuur moet worden getransformeerd en de juiste balans moet worden gevonden tussen autonomie van agenten en menselijke betrokkenheid.