Les entreprises confondent souvent la réduction de la consommation visible de tokens avec la baisse des coûts réels

À mesure que les entreprises généralisent l’adoption de l’IA auprès de leur personnel, beaucoup commencent à réaliser que maximiser l’utilisation de l’IA ne donne pas les résultats optimaux. C’est là qu’intervient le « valuemaxxing ».

Sans doute, a-t-on été trop loin. Certains dirigeants ont cherché à formaliser l’utilisation accrue de l’IA au sein de leurs équipes d’ingénierie. D’autres ont même encouragé les développeurs à « utiliser l’IA autant que possible » sans définir clairement d’indicateurs de réussite, de garde-fous ou de prévisions de coûts.

Le terme créé était « tokenmaxxing » : la pratique consistant à maximiser l’utilisation de l’IA dans les workflows de développement, avec la conviction qu’une forte consommation d’IA conduirait à terme à de meilleurs résultats.

Cette approche était logique pendant la phase d’expérimentation. « En l’absence de véritables indicateurs, les entreprises ont créé des classements d’utilisation, que les utilisateurs ont rapidement appris à manipuler à leur avantage, avance Neil Dhar, Senior Vice President, IBM Consulting. L’usage est rapidement devenu un indicateur de valeur ».

L’indicateur s’est ensuite heurté à un nouveau défi : la hausse des coûts liés au développement assisté par l’IA, sans garde-fous. Les workflows de développement agentiques font plus que générer du code. Ils planifient, analysent les référentiels, font appel à des outils, testent les solutions et coordonnent de multiples étapes au sein de systèmes complexes. À mesure que l’utilisation augmente, la consommation de tokens augmente avec elle, et certaines entreprises comment à se poser une épineuse question : que se passe-t-il lorsque nous devons payer pour tout cela, et qu’en avons-nous retiré ?

Une contre-approche : la minimisation des tokens

Face à l’augmentation des coûts de l’IA, de nombreuses entreprises ont réagi en se concentrant sur les indicateurs les plus visibles : la consommation de tokens. De nouvelles politiques sont apparues concernant la limitation de l’utilisation, la restriction des nouveaux modèles, ainsi que la réduction des fenêtres contextuelles et des prompts.

Autre orientation, autre effet. Le problème, c’est que la minimisation des tokens peut tomber dans le même piège que le « tokenmaxxing ». Les deux supposent que la consommation de tokens est l’indicateur principal qui compte. « L’un cherche à la maximiser ; l’autre cherche à la minimiser. Ni l’un ni l’autre ne mesurent les résultats commerciaux », observent Adam McDaniel, Product Marketing, Agentic Development Platforms, IBM Consulting et Markus Eisele, AI Developer Strategist, IBM Consulting.

Les entreprises confondent souvent la réduction de la consommation visible de tokens avec la baisse des coûts réels. Une fois que les inefficacités évidentes (telles que les catalogues d’outils surdimensionnés, les charges utiles superflues ou le contexte obsolète) sont supprimées, les réductions supplémentaires ciblent souvent les informations qui contribuent au bon fonctionnement des systèmes d’IA : descriptions de tâches, contraintes métier, contexte architectural et autres sources de sens.

À ce stade, les coûts ne disparaissent pas ; ils se déplacent. Les instructions ambiguës engendrent des raisonnements supplémentaires, de nouveaux essais, des appels d’outils, des cycles de validation et des reprises humaines. L’entreprise peut se réjouir d’une baisse du nombre de tokens d’entrée tout en payant pour la même complexité ailleurs dans le workflow.

Une meilleure approche : le « valuemaxxing »

L’objectif ne doit pas être la maximisation ou la minimisation des tokens. L’objectif devrait être le « valuemaxxing », un terme récement inventé par Marc Boroditsky, Chief Revenue Officer, Nebius.

Le « valuemaxxing » oriente la conversation vers des résultats directs. Au lieu de se demander « Combien de tokens avons-nous utilisés ? », les entreprises devraient se demander : « Combien de tâches ont été accomplies ? », « Combien de temps les développeurs ont-ils gagné ? », « Combien de travaux de modernisation ont été accélérés ? », « Combien de vulnérabilités ont été résolues ? »…

La consommation de tokens est un signal de coût, et non un indicateur de valeur. Cette distinction devient importante lorsque les modèles deviennent des dépendances d’infrastructure ou de système.

L’accès à des modèles performants n’est plus le principal facteur de différenciation. La plupart des modèles les plus populaires peuvent effectuer avec succès des tâches de développement complexes, et les alternatives open source de haute qualité continuent de s’améliorer.

L’avantage concurrentiel s’éloigne du modèle lui-même pour se tourner vers les systèmes construits autour de lui : gestion du contexte, orchestration des workflows, mémoire, gouvernance, évaluation et optimisation. Si les résultats comptent plus que les tokens, alors les systèmes (sorties) sont plus importants que les modèles (entrées).

De même, l’orchestration des modèles devient également plus importante que la sélection des modèles. IDC prévoit qu’en 2028, 70 % des principales entreprises pilotées par l’IA géreront dynamiquement le routage entre plusieurs modèles plutôt que de s’appuyer sur une stratégie à modèle unique.

Développeurs et dirigeants sont tous autant responsables

Pour les développeurs, l’efficacité de l’IA devient une nouvelle compétence d’ingénierie. Les développeurs devraient envisager l’utilisation de l’IA de la même manière qu’ils envisagent les ressources cloud, les bases de données ou les performances des applications.

L’objectif n’est pas d’utiliser moins d’IA, mais de l’utiliser plus efficacement. Une bonne hygiène contextuelle, la planification avant l’exécution et la compréhension des compromis entre les coûts et les résultats contribuent à une meilleure qualité des résultats.

Pour les dirigeants, la responsabilité est différente. Ils doivent créer de la visibilité sur les coûts et les résultats, et mesurer la valeur plutôt que le volume. L’efficacité doit être récompensée, et les équipes doivent disposer des outils nécessaires pour comprendre leur impact et suivre les résultats.

Construire une culture d’efficacité de l’IA nécessite de partager les indicateurs, la responsabilité et la visibilité au sein de l’entreprise.

Garantir la responsabilité du système

Les développeurs et les dirigeants ne peuvent pas assumer seuls la responsabilité de l’efficacité de l’IA. Les plateformes qu’ils utilisent doivent également leur permettre de contrôler les coûts et de relier la consommation de l’IA aux résultats.

Cette philosophie est l’une des raisons pour lesquelles IBM Bob, la plateforme de développement agentique d’IBM, a été construite de cette manière. Plutôt que d’optimiser pour un seul modèle, Bob a été conçu pour rester résilient face à l’évolution continue des modèles, des coûts et de l’IA d’entreprise.

Le routage intelligent des modèles équilibre les modèles de pointe et ceux open source, afin que les équipes utilisent le modèle approprié à la tâche appropriée plutôt que de choisir par défaut l’option la plus performante (ou la plus coûteuse). Bob apporte également la transparence dont les entreprises ont besoin pour pratiquer le « valuemaxxing ». Les contrôles administratifs offrent une visibilité en matière de budgets, de gouvernance et d’utilisation, tandis que l’analytique aide les dirigeants à relier la consommation de l’IA aux résultats métier plutôt qu’au nombre de tokens uniquement. Les capacités de workflow, les compétences et l’intégration des outils permettent de réduire le travail inutile tout en préservant le contexte et les signaux nécessaires à l’obtention de résultats de haute qualité.

En fait, bon nombre de ces tendances se dessinent déjà. L’essor des modèles open source et l’importance croissante du routage des modèles déplacent l’attention du simple accès au modèle le plus puissant vers l’orchestration du modèle adapté à la tâche appropriée.

Pour IBM, les entreprises devraient pouvoir répondre à une question fondamentale : notre investissement dans l’IA a-t-il créé une valeur commerciale significative ?