L’algorithme est en train de devenir la première source de légitimation des décisions. Non sans risques
Alors que l’IA est de plus en plus intégrée aux opérations quotidiennes, des inquiétudes subsistent quant aux lacunes de gouvernance, au manque d’explicabilité et à la confiance mal placée.
95 % des responsables données admettent ne pas pouvoir retracer entièrement les décisions d’IA. Or, on lui fait confiance. Et de plus en plus, comme le montre l’étude « Global AI Confessions Report : Data Leaders Edition » d’Harris Poll pour Dataiku (800 cadres supérieurs du monde entier interrogés).
Si 86 % des personnes interrogées estiment que l’IA est intégrée à leurs opérations quotidiennes, des inquiétudes subsistent quant aux lacunes de gouvernance, au manque d’explicabilité et à la confiance mal placée. Étonnamment, seuls 19 % des responsables données exigent systématiquement des agents IA qu’ils « montrent leur travail » avant approbation, et 52 % ont retardé ou complètement bloqué le déploiement des agents, notamment pour des raisons d’explicabilité.
Le poids de la responsabilité
Malgré une adoption rapide, la plupart des responsables données considèrent que la confiance et l’explicabilité de l’IA constituent des risques majeurs, révélant un écart dangereux entre les ambitions des CEO et la réalité de l’entreprise.
Les CIO et les responsables des data portent le poids de la responsabilité. Quand tout va bien, on les félicite (46 %). Mais en cas d’échec, la sanction est brutale : ils sont tenus pour responsables (56 %). Cette asymétrie reflète une pression croissante sur les fonctions techniques, qui deviennent à la fois les chevilles ouvrières et les fusibles de l’automatisation avancée. Aussi, beaucoup (60 %) craignent que leur emploi soit menacé si l’IA ne produit pas de résultats mesurables d’ici deux ans. Les enjeux pour les responsables des données n’ont jamais été aussi élevés.
Confiance fragile dans les résultats de l’IA
Malgré l’optimisme quant à son potentiel, l’IA est déjà source de problèmes pour les entreprises mondiales. 59 % signalent que des hallucinations ou des inexactitudes liées à l’IA ont déjà causé des problèmes opérationnels au cours de l’année écoulée.
82 % pensent que l’IA peut surpasser leur supérieur en matière d’analyse commerciale, mais 74 % reviendraient à des processus gérés par des humains si le taux d’erreur de l’IA dépassait 6 %. 89 % affirment qu’il existe au moins une fonction métier qu’ils ne délégueraient jamais à l’IA.
Plus tôt cette année, le rapport « Global AI Confessions Report : CEO Edition » de Dataiku a révélé l’optimisme des DEO à l’égard de l’IA. Les responsables des données, en revanche, sont plus sceptiques. Seuls 39 % d’entre eux affirment que leur direction comprend véritablement l’IA, 68 % pensent que les dirigeants surestiment sa précision et 73 % sous-estiment la difficulté d’assurer la fiabilité de l’IA avant sa mise en production.
L’enjeu est de taille : 56 % des responsables des données prévoient qu’un CEO sera limogé d’ici 2026 en raison d’une stratégie d’IA défaillante. Ce décalage, entre l’optimisme des CEO et la prudence des responsables des données à déployer une IA inadaptée en production, pourrait expliquer pourquoi tant de projets restent au stade de la preuve de concept.
