Le nouveau triptyque offre un cadre indispensable pour piloter la complexité croissante

L’accessibilité des outils d’IA facilite l’innovation, mais accroît aussi les risques de déploiements dispersés, de coûts imprévus et d’impacts environnementaux mal maîtrisés. La réponse proposée repose moins sur un outil unique que sur une gouvernance partagée, une sélection des technologies fondée sur les besoins et un FinOps modernisé.

« Pour vos projets IA, réunissez, dès le lancement d’une initiative, les fonctions concernées : direction, IT, finance, conformité, protection des données et, plus largement, les équipes impliquées dans les enjeux data, IA et RSE. Les décisions ne devraient pas être confiées à un seul département, ni prises uniquement après la phase d’expérimentation. »

La gestion de l’IA sous forme de projet réclame absolument des instances de pilotage pluridisciplinaires, estime Yannis Nakos, Chief Innovation Officer, NSI Group. Contrairement aux projets IT traditionnels, l’IA ne se limite pas à du code et des infrastructures techniques. Sa nature itérative, sa dépendance massive aux données et ses impacts éthiques et humains, mais aussi environnementaux, imposent de croiser les regards pour garantir la réussite, la conformité, la sécurité et l’adoption du projet.

Un moyen, pas une fin en soi

« Je recommande d’évaluer les projets selon plusieurs angles dès leur origine. L’objectif est de réduire les doublons, les divergences entre équipes et les risques de décisions incohérentes. »

Chez NSI, explique Yannis Nakos, la perception initiale de l’activité en IA était que l’entreprise n’en faisait pas assez. L’examen des réalisations a pourtant révélé au moins une cinquantaine de références sur dix ans. De même, plusieurs bureaux avaient développé des outils d’IA différents pour des objectifs similaires, produisant parfois des résultats divergents. Un constat que Yannis Nakos retrouve depuis, chaque semaine, chez les clients.

« Il existe souvent un écart entre ce qu’une organisation sait de ses initiatives et la réalité opérationnelle, d’où l’intérêt d’un inventaire partagé et d’un alignement en amont, qui chez NSI été demandée en 2024 par notre CEO, Emmanuel Pallage. L’IA n’est qu’un moyen, pas une fin en soi. Avoir une vision IA sans vision stratégique globale revient à acheter un outil sophistiqué par effet de mode. »

Un processus de décision collectif, avec des responsabilités clairement établies

Une technologie ne doit jamais dicter les objectifs d’une organisation ; c’est la stratégie qui définit la direction, assure Yannis Nakos. La stratégie détermine où l’on veut aller -nouveaux marchés, amélioration de l’expérience client, réduction des coûts…

« L’innovation cherche comment y aller de manière différenciante. L’IA n’intervient qu’ensuite, comme un accélérateur ou un facilitateur technologique pour réaliser cette vision. »

Une fois qu’une initiative prend de l’ampleur, le Chief Innovation Officer de NSI recommande un processus de décision collectif, avec des responsabilités clairement établies. « Ce cadre pluridisciplinaire n’est pas seulement souhaitable, il est indispensable : plus de 70 % des projets d’IA n’atteignent jamais la production en raison d’un mauvais cadrage initial. »

Cette prudence s’explique aussi par la dépendance aux fournisseurs externes : ceux-ci peuvent modifier leur modèle tarifaire, alors que l’organisation cliente n’a pas nécessairement de contrôle sur ces changements.

Oui à l’IA générative, mais pas de façon systématique

Yannis Nakos préconise en outre de ne pas limiter la réflexion à une « stratégie IA ». Il estime préférable de disposer d’un processus général d’innovation applicable à des sujets variés -par exemple l’évolution d’un modèle de vente ou d’un outil de production. Ce processus devrait commencer par la qualification du besoin, puis examiner si l’IA est pertinente et, le cas échéant, quel type de solution convient.

Un point important de l’échange concerne la différence entre les systèmes déterministes et les modèles génératifs. Les premiers, historiquement supervisés par des humains, fournissent une réponse stable lorsqu’on leur présente plusieurs fois les mêmes données. Les seconds peuvent produire des réponses variables, même à une question identique, et leur comportement peut évoluer au fil des mises à jour, et même au sein d’une même conversation.

« Je ne rejette pas l’IA générative, je reconnais son intérêt essentiel lorsque la tâche nécessite de traiter un contexte dynamique. En revanche, je doute de son utilisation systématique dans des processus critiques ou dans lesquels l’entreprise attend des résultats fiables… »

Le principe est donc de faire correspondre besoin et moyen : recourir à un système déterministe (ex : BPMS, BRE, orchestrateurs agentiques comme LangFlow, …) lorsque la stabilité est essentielle, et à des modèles capables d’interpréter des situations variables lorsque cela apporte une valeur réelle. « La décision doit être prise en fonction de l’usage, et non de l’attrait de la technologie. Si je n’ai qu’un marteau, tout devient un clou ! »

Les FinOps ne sont pas adaptés

Les pratiques FinOps traditionnelles, conçues pour des ressources cloud prévisibles facturées à l’heure ou à la seconde (instances, stockage, réseau), laissent Yannis Nakos sceptique : les projets d’IA – et particulièrement l’IA générative – introduisent des modèles de coûts radicalement différents.

L’IA introduit la « tokenomics », soit le coût asymétrique du jeton de prompt (la question) et de complétion (la réponse), voire des coûts par requête, rendant les dépenses extrêmement volatiles et imprévisibles. « Le problème principal est la rapidité des changements tarifaires et l’opacité de la formule d’instanciation de divers modèles au sein d’une même offre. Les modèles de coût peuvent évoluer de façon brusque selon ces critères sur lesquels aucun CIO n’a d’impact »

Oui au FinOps, donc, à condition qu’il dépasse la seule comparaison de tarifs d’infrastructure : il doit intégrer des référentiels actualisés en continu, suivre usages et coûts de manière dynamique et tenir compte des variations de consommation.

« On a besoin de solutions multi-modèles capables d’orienter une tâche vers le modèle le plus approprié économiquement et éthiquement, en fonction du rapport entre le besoin et le moyen utilisé. »

Donc, oui au FinOps, à condition que la discipline ne reste pas attachée à des modèles de coûts relativement rigides et à la seule comparaison de tarifs d’infrastructure.

De l’empreinte des traitements

Quant à la dimension environnementale, elle est présentée comme indissociable du coût financier. Elle est bien réelle. « De facto, l’usage de l’IA entraîne une consommation de ressources matérielles et énergétiques qui doit être intégrée dans les arbitrages, au même titre que le budget et la performance. »

L’échange ne débouche toutefois pas sur des indicateurs environnementaux précis, mais préconise d’évaluer des « business cases » d’IA plutôt que des Use Cases en utilisant le Process Mining. Dans cette vision, les besoins sont traduits en temps, qualité, coûts et KPI’s environnementaux comme le CO2 produit par un agent. Il établit aussi la nécessité de prendre en compte l’empreinte des traitements dès la décision initiale, plutôt que de la considérer après le déploiement.

Gouvernance des choix

Pour Yannis Nakos, la question de la souveraineté est une question complexe qui trop souvent est interprétée de façon simpliste. « Le Cloud Act américain met en péril nos illusions de sécurité des données. Mais la souveraineté ne se limite pas à un aspect de résidence des données ou des traitements. Elle est une question stratégique dont les réponses doivent se circonstancier. »

NSI fournit des services d’IA souveraine sur trois tiers :

  • IA locale basée sur des modèles Open Source comme Mistral ou Kwen mais industrialisés et gouvernés avec l’offre Watsonx et Sovereign Core d’IBM ;
  • des partenariats avec le réseau EuroHPC de datacenters hexabyte et petabytes européens ;
  • les « Eurocloud » des hyperscalers, chacun ayant une stratégie différente et une lecture personelle de la conformité en souveraineté et cyber-résilience.

Aussi, la réponse proposée repose moins sur un outil unique que sur une gouvernance partagée par les fonctions stratégique d’une entreprise, une sélection des technologies fondée sur les besoins réels, et un FinOps modernisé, capable de suivre des usages et des coûts en évolution rapide.

Propos recueillis par : André de Woot