We bevinden ons in een overgangsperiode waarin mensen de tools activeren en de resultaten controleren

75 % van de werknemers gebruikt AI dagelijks, maar 61 % wil menselijk toezicht, wat wijst op een gebrek aan vertrouwen dat de ontwikkeling ervan remt. Er bestaat een duidelijke kloof tussen het gebruik van de tools en het vertrouwen in autonome systemen.

AI is al een integraal onderdeel van het dagelijkse werk, maar bedrijven moeten een gebrek aan vertrouwen wegwerken voordat ze het potentieel van AI op het gebied van productiviteit ten volle kunnen benutten, zo blijkt uit een nieuw wereldwijd onderzoek van TeamViewer.

Hoewel driekwart van de ondervraagden dagelijks gebruikmaakt van AI, geeft 61 % nog steeds de voorkeur aan menselijk toezicht voordat de AI actie onderneemt, terwijl IT-managers verwachten dat tegen 2030 bijna 40 % van de diensten in de digitale werkomgeving autonoom zal functioneren.

Het wereldwijde onderzoek ‘Path to the Autonomous Workplace’ onderzoekt de overgang van AI-ondersteuning – waarbij mensen de tools activeren en de resultaten controleren – naar autonome systemen die behoeften kunnen detecteren en hierop kunnen reageren met steeds minder menselijke tussenkomst.

Het vertrouwen neemt af naarmate AI meer zeggenschap krijgt

61 % van de respondenten geeft er de voorkeur aan dat AI geen onafhankelijke beslissingen neemt. Hoewel 35 % bereid is om AI autonomer te laten handelen, voelt de meerderheid van deze groep (71 %) zich alleen op haar gemak bij AI die welomschreven taken uitvoert. Slechts 1 op de 20 (5 %) maakt zich geen zorgen over het functioneren van AI zonder menselijke tussenkomst.

Mensen wijzen autonomie op zich niet af; ze wijzen onzichtbare autonomie af. 40 % van de ondervraagden wil dat AI problemen snel opspoort en oplost, terwijl ze op de hoogte worden gehouden, en 70 % voelt zich op hun gemak bij een AI die autonoom handelt, op voorwaarde dat ze kunnen ingrijpen indien nodig.

„Het is vertrouwde autonomie, en niet ongecontroleerde automatisering, die de volgende generatie van productiviteit mogelijk zal maken”, aldus Oliver Steil, CEO van TeamViewer.

Gebrek aan vertrouwen

Veiligheidsmaatregelen zijn essentieel voor vertrouwen. De respondenten zijn van mening dat autonoom handelen acceptabeler zou zijn met robuuste beveiligings- en privacywaarborgen (39%), meldingen voorafgaand aan ingrijpende veranderingen (36%), beperkingen op de toegang van de AI (36%), zichtbare activiteitenlogboeken (33%) en herstelopties (31%).

Deze resultaten wijzen op wat Oliver Steil het ‘vertrouwenstekort ten opzichte van AI’ noemt: mensen voelen zich steeds meer op hun gemak bij het gebruik van AI als hulpmiddel, maar zijn minder bereid om autonome systemen meer toegang, bevoegdheden en verantwoordelijkheden te geven. Dit tekort leidt nu al tot problemen bij de controle. Meer dan de helft van de ondervraagden (56 %) controleert de resultaten van AI vaak of systematisch voordat ze erop vertrouwen, en besteedt gemiddeld twee uur per week aan het controleren van het door AI gegenereerde werk. Bovendien geeft 51 % aan niet altijd te weten wanneer ze AI kunnen vertrouwen en wanneer ze het moeten controleren.

„AI verandert nu al onze werkwijzen, maar de volgende stap zal in het teken staan van vertrouwen”, vervolgt Oliver Steil. „Bedrijven zullen niet slagen door AI onbeperkte bevoegdheden te geven. Hun succes zal afhangen van het opzetten van systemen die veilig, transparant en verantwoord functioneren, binnen een duidelijk omschreven kader.”

Veiligheidsmaatregelen

Het is vertrouwensgebaseerde autonomie, en niet ongecontroleerde automatisering, die de volgende generatie productiviteit mogelijk zal maken, zo blijkt uit het onderzoek van Sapio Research.

„Jarenlang werd software ontworpen op basis van instructies van gebruikers”, legt Mei Dent, Chief Product & Technology Officer bij TeamViewer, uit. „Autonome systemen zetten dit model op zijn kop. De volgende stap is het ontwerpen van systemen die weten wanneer ze moeten handelen, wanneer ze moeten afwachten en wanneer ze gebruikers bij de beslissing moeten betrekken. ” Dit vereist duidelijke waarborgen, vooraf goedgekeurde acties, risicogebaseerd toezicht en volledige transparantie over de acties van het systeem en de redenen daarvoor.

„Autonomie zal algemeen ingang vinden wanneer organisaties de doeltreffendheid ervan in specifieke en betrouwbare gebruikssituaties hebben aangetoond en deze vervolgens met vertrouwen kunnen uitbreiden.”