Nous sommes dans cette période de transition où les humains activent les outils et vérifient les résultats

75 % des employés utilisent l’IA quotidiennement, mais 61 % souhaitent une supervision humaine, ce qui révèle un manque de confiance freinant son développement. Il existe un écart net entre l’adoption des outils et la confiance accordée aux agents autonomes.

L’IA fait déjà partie intégrante du travail quotidien, mais les entreprises doivent combler un manque de confiance avant de pouvoir exploiter pleinement le potentiel de l’IA en matière de productivité, selon une nouvelle étude mondiale de TeamViewer.

Si les trois quarts des personnes interrogées utilisent l’IA quotidiennement, 61 % préfèrent toujours une supervision humaine avant que l’IA n’agisse, alors même que les responsables IT prévoient que près de 40 % des services de l’espace de travail numérique fonctionneront de manière autonome d’ici 2030.

L’étude mondiale « Path to the Autonomous Workplace » examine la transition d’une assistance par l’IA, où les humains activent les outils et vérifient les résultats, vers des systèmes autonomes capables de détecter les besoins et d’y répondre avec une intervention humaine de plus en plus réduite.

La confiance diminue à mesure que l’IA gagne en autorité

61 % des répondants préfèrent que l’IA ne prenne aucune décision indépendante. Si 35 % sont prêts à laisser l’IA agir de manière plus autonome, la majorité de ce groupe (71 %) n’est à l’aise qu’avec une IA gérant des tâches bien définies. Seul 1 sur 20 (5 %) n’a aucune inquiétude quant au fonctionnement de l’IA sans intervention humaine.

Les gens ne rejettent pas l’autonomie en soi ; ils rejettent l’autonomie invisible. 40 % des personnes interrogées souhaitent que l’IA détecte et corrige les problèmes rapidement tout en les tenant informées, et 70 % sont à l’aise avec une IA agissant de manière autonome, à condition de pouvoir intervenir en cas de besoin.

« C’est l’autonomie de confiance, et non une automatisation sans contrôle, qui permettra d’atteindre la prochaine génération de productivité », commente Oliver Steil, CEO, TeamViewer.

Déficit de confiance

Des garde-fous sont essentiels à la confiance. Les répondants estiment qu’une action autonome serait plus acceptable avec des protections robustes en matière de sécurité et de confidentialité (39 %), des notifications avant les changements majeurs (36 %), des limites à l’accès de l’IA (36 %), des journaux d’activité visibles (33 %) et des options de restauration (31 %).

Ces résultats révèlent ce qu’Oliver Steil nomme le « déficit de confiance envers l’IA » : les individus sont de plus en plus à l’aise avec l’utilisation de l’IA comme assistance, mais moins prêts à accorder aux systèmes autonomes un accès, une autorité et des responsabilités accrus. Ce déficit engendre déjà des difficultés de vérification. Plus de la moitié des personnes interrogées (56 %) vérifient souvent ou systématiquement les résultats de l’IA avant de s’y fier, consacrant en moyenne deux heures par semaine à la vérification du travail généré par l’IA. Par ailleurs, 51 % déclarent ne pas toujours savoir quand faire confiance à l’IA et quand la vérifier.

« L’IA transforme déjà nos méthodes de travail, mais la prochaine étape sera marquée par la confiance, continue Oliver Steil. Les entreprises ne réussiront pas en accordant à l’IA une autorité illimitée. Leur succès reposera sur la mise en place de systèmes fonctionnant de manière sûre, transparente et responsable, dans un cadre clairement défini. »

Garde-fous

C’est l’autonomie de confiance, et non une automatisation sans contrôle, qui permettra d’atteindre la prochaine génération de productivité, montre l’étude réalisée par Sapio Research.

« Pendant des années, les logiciels ont été conçus en fonction des instructions des utilisateurs, explique Mei Dent, Chief Product & Technology Officer, TeamViewer. Les systèmes autonomes bouleversent ce modèle. La prochaine étape consiste à concevoir des systèmes capables de savoir quand agir, quand attendre et quand impliquer les utilisateurs dans la décision. » Cela nécessite des garde-fous clairs, des actions pré-approuvées, une supervision basée sur les risques et une transparence totale quant aux actions du système et à leurs justifications.

« L’autonomie se généralisera lorsque les organisations auront prouvé son efficacité dans des cas d’usage spécifiques et fiables, puis pourront l’étendre en toute confiance. »