Comment réorganiser les entreprises afin de favoriser une collaboration efficace entre humains et IA ?
La confiance dans les agents IA entièrement autonomes est passée de 43 % à 27 % au cours de l’année écoulée en raison de préoccupations liées à la confidentialité et à l’éthique. Derrière cette chute, un vrai défi.
« Les entreprises découvrent que les agents IA ont d’autant plus d’impact que les humains restent activement impliqués », déclare Franck Greverie, Chief Portfolio & Technology Officer, Capgemini. C’est aussi la conclusion du rapport Rise of agentic AI: How trust is the key to human-AI collaboration du Capgemini Institute. La confiance et la supervision humaine sont des facteurs essentiels pour bénéficier pleinement du potentiel de l’IA agentique. Aussi, l’écart entre l’intention et la capacité de mise en œuvre constitue aujourd’hui l’un des principaux freins à la concrétisation de cette opportunité.
« Pour réussir, les entreprises doivent rester concentrées sur les résultats, en repensant leurs processus avec une approche ‘AI-first’, continue Frank Greverie. La réussite de cette transformation repose dans le besoin de créer de la confiance dans l’IA en s’assurant de la développer de manière responsable, en intégrant l’éthique et la sécurité dès la conception… »
La question de la confiance implique la réorganisation des entreprises
Or, la confiance dans les agents IA entièrement autonomes a fortement chuté, passant de 43 % à 27 % en un an, nous apprend le rapport. Près de deux dirigeants sur cinq estiment désormais que les risques liés à leur mise en œuvre dépassent les bénéfices. Seules 40 % des entreprises déclarent faire confiance aux agents IA pour gérer des tâches et processus de manière autonome, tandis que la majorité reste méfiante vis-à-vis de cette technologie.
Cependant, la confiance augmente à mesure que les entreprises passent de l’exploration à la mise en œuvre : parmi celles ayant commencé à déployer, 47 % font plus confiance que la moyenne aux agents IA, contre 37 % dans les phases exploratoires. « La question de la confiance implique la réorganisation des entreprises afin de favoriser une collaboration efficace entre humains et IA, estime Frank Greverie. Il s’agit de créer les conditions propices pour que ces systèmes renforcent le jugement humain et améliorent les performances économiques. »
L’alchimie humain–IA, clé d’une adoption durable
La véritable promesse de l’IA agentique réside dans sa capacité à relever les défis stratégiques des entreprises et à repenser en profondeur les modes de travail, rappelle le Capgemini Institute. Dans les 12 prochains mois, plus de 60 % des entreprises prévoient de former des équipes hybrides humain–agent, où les agents IA agiront comme subordonnés, comme outils ou en soutien des capacités humaines. « Cela signifie que les agents IA ne peuvent plus être considérés comme de simples outils : ils deviennent des membres à part entière des équipes… »
Si les entreprises constatent que la valeur ajoutée des agents IA est d’autant plus forte que les humains restent impliqués, peu encore sont prêtes à déployer l’IA agentique à grande échelle. 80 % d’entre elles ne disposent pas d’une infrastructure IA suffisamment mature, a chiffré le Capgemini Institute. Et moins d’une sur cinq se considère comme réellement prête en matière de données. Les préoccupations éthiques telles que la protection des données, les biais algorithmiques ou le manque d’explicabilité, restent largement répandues… mais peu d’entreprises prennent des mesures concrètes.
Pour exploiter pleinement le potentiel des agents IA, les entreprises doivent dépasser l’effet de mode, recommande le rapport. Cela implique de repenser les processus, réinventer les modèles économiques, transformer la structure organisationnelle et trouver le bon équilibre entre autonomie des agents et implication humaine.
