La question dépasse les modèles FinOps actuels. Et on ne peut la laisser en suspens

Plafonner les étapes, suivre les tokens, limiter les débits… Alors que l’IA agentique commence à s’imposer, il s’agit, maintenant, de poser des limites et surveiller la consommation de tokens. Objectif : contenir les coûts. Une nouvelle forme de gouvernance qui dépasse les FinOps traditionnelles.

« Nous ne pouvons plus continuer à utiliser ChatGPT sans tenir compte du coût de chaque requête ! » Le message interne est attribué à Microsoft, voici peu. Il aurait pu être le fait de n’importe quelle entreprise.

L’IA agentique devient source de tensions. Les organisations incitent leurs employés à utiliser des agents de programmation et des assistants IA de plus en plus performants, mais la charge de travail qui en résulte peut engendrer des coûts IT importants, parfois imprévisibles.

« Il faut bien que quelqu’un finance toutes ces requêtes ! Alors que les entreprises se précipitent pour adopter l’IA agentique, elles découvrent que la dynamique des coûts est à la fois complexe et parfois étonnamment onéreuse. Si le coût des jetons individuels continue de baisser, les dépenses des entreprises en IA explosent », observe McKinsey.

Une indépendance qui coûte cher

Contrairement aux applications d’IA traditionnelles qui répondent à des requêtes ponctuelles, les systèmes d’IA agentiques poursuivent leurs objectifs de manière indépendante. De fait,  ils appellent des API, créent des sous-tâches et exécutent des flux de travail complexes. Et cela sans attendre d’approbation humaine à chaque étape.

Cette distinction est cruciale. Car l’IA agentique génère des coûts de manière fondamentalement différente des ressources cloud provisionnées. Une machine virtuelle fonctionne à un tarif horaire prévisible. Un agent d’IA, en revanche, peut déclencher des dizaines d’appels LLM, de requêtes de bases de données vectorielles et d’invocations d’outils externes pour répondre à une simple requête utilisateur. Il en résulte des dépenses dynamiques, pilotées par le comportement, qui s’accumulent rapidement et de manière imprévisible. Certaines entreprises ont épuisé leur budget annuel d’IA en quelques mois seulement après le déploiement.

Revenir à la réalité des chiffres… et donc des dépenses

A ses débuts, l’IA était comparable à la ruée vers l’or de l’Oklahoma au XIXe siècle : s’emparer de tout ce qu’on pouvait, autant que possible. La consommation de jetons était alors considérée comme un indicateur d’adoption, tandis que les développeurs étaient incités à intégrer l’IA dans un maximum de processus. Plus aujourd’hui.

A défaut de pouvoir chiffrer précisément, la tendance est à la restriction. Ou, comme chez Microsoft, au recentrage : concentrer le développement interne de l’IA autour de ses propres produits. En mai, il est apparu que l’éditeur s’orientait vers la suppression de la plupart des utilisations internes de Claude Code d’Anthropic au bénéfice de l’interface de ligne de commande GitHub Copilot. Cette stratégie confère à Microsoft un meilleur contrôle sur les outils d’IA utilisés par ses ingénieurs, tout en lui permettant potentiellement de mieux gérer les coûts d’infrastructure et de licences.

Par-delà les pratiques FinOps traditionnelles

Le cas de Microsoft est spécifique. La question des coûts intéresse toutes les organisations, grandes ou petites. « Les systèmes d’IA agentiques n’attendent pas votre autorisation pour dépenser votre argent, observe Finout, start-up israélienne spécialisée dans la gouvernance. Ils appellent des API, créent des sous-tâches et exécutent des flux de travail complexes de manière autonome… et votre facture reflète chacune de leurs décisions ! »

Force est de constater que les pratiques FinOps traditionnelles n’ont pas été conçues pour cela : Gartner prévoit que plus de 40 % des projets d’IA agentique seront annulés d’ici 2027 en raison de l’explosion des coûts et de contrôles insuffisants.

Dans le cloud, on part du principe que les coûts peuvent être prévus en fonction de la capacité provisionnée : on crée des instances, on définit des budgets et on surveille l’utilisation. Avec l’IA agentique, c’est différent.

D’une requête à l’autre

Le principal problème réside dans la prise de décision autonome. Les agents choisissent quand et à quelle fréquence appeler des modèles externes ou des API en fonction de la complexité de la tâche, et non selon des calendriers prédéfinis. Un agent de recherche peut effectuer trois appels API pour une requête simple… ou trois cents pour une requête complexe !

La mise à l’échelle est également non linéaire. Une requête utilisateur peut se transformer en plusieurs actions d’agents, chacune générant ses propres coûts. Contrairement à une machine virtuelle avec un tarif horaire fixe, les agents n’ont pas de plafond de dépenses prédéfini. Ils consomment des jetons en fonction de leurs actions, et non de ce que vous leur avez alloué.

« Il est capital de savoir pourquoi les coûts de l’IA agentique se comportent différemment, d’où proviennent réellement les dépenses et comment mettre en œuvre des cadres de gouvernance qui vous offrent visibilité et contrôle avant même la réception de la facture », résume Finout.

Se préparer à l’autonomie

Le besoin est réel. Et les premières offres de produits et services arrivent. On parle de gouvernance des coûts de l’IA agentique. Celle-ci désigne les politiques, les mécanismes de visibilité, les contrôles et les structures de responsabilisation que les organisations utilisent pour gérer les dépenses liées aux systèmes d’IA autonomes.

Pour les CIO, les CTO et les CDO, cela marque un point d’inflexion stratégique. L’avantage concurrentiel n’ira pas à l’entreprise dotée du modèle le plus puissant, mais à celle qui construira l’échafaudage opérationnel le plus robuste autour de celui-ci.

Cela implique d’établir une surveillance centrale, de définir des niveaux de déploiement basés sur les risques et de mandater des modèles stricts d’attribution des coûts pour chaque flux de travail automatisé, explique Thinkia.

« La transition de l’IA pour la prédiction à l’IA pour l’action autonome se produit maintenant, et les organisations qui maîtriseront ses complexités opérationnelles définiront la prochaine décennie de leadership sur le marché. Le succès exige plus que de la technologie ; il demande un nouveau plan organisationnel pour l’ère de l’autonomie. »