La facture de l’IA ne se résume pas au nombre de tokens consommés, loin de là
Selon l’étude « The Cost of Innovation » de Cebr pour Wasibi, il devient de plus en plus difficile d’établir un budget pour l’infrastructure qui soutient les projets d’IA. Or, aujourd’hui, l’IA et le Machine Learning pèsent plus lourd que toute autre catégorie d’infrastructure.
Combien coûte réellement un projet d’IA ? Le prix du modèle est généralement connu, celui de ses licences parfois moins. Et celui de son intégration au système d’information reste souvent à déterminer. Ajoutons les ressources de calcul, le stockage des données, leur transfert, la sécurité et l’exploitation quotidienne. En gros, la chaîne logistique. On comprend vite qu’une facture d’IA ne se résume pas au nombre de tokens consommés.
Non seulement l’IA et l’apprentissage automatique représentent la part la plus importante des dépassements de coûts imputables aux fournisseurs. Mais c’est aussi la catégorie d’infrastructure la plus difficile à prévoir, analyse Cebr. Environ 22 % des entreprises ont signalé des coûts d’IA imprévisibles. Soit près du double du taux observé pour les autres couches d’infrastructure technologique.
Parmi les entreprises ayant signalé des dépassements de coûts liés à l’infrastructure d’IA, 38 % ont cité des frais de jetons, d’inférence ou d’utilisation plus élevés que prévu. Les coûts imprévus des licences de modèles (49 %) et les dépenses d’intégration ou d’exploitation (45 %) étaient encore plus fréquents.
Les entreprises savent que l’IA nécessite des investissements importants. Elles devraient également être en mesure d’estimer son coût avant de s’engager dans un projet, épingle l’étude. Mais ce n’est pas le cas.
Changer de fournisseur ? Pas facile !
L’étude révèle que 71 % des entreprises ont dépensé, au cours de l’année écoulée, davantage que prévu en matière d’infrastructures. Parmi les entreprises confrontées à des coûts d’infrastructure imprévisibles, 73 % ont fait état d’une pression budgétaire modérée, voire importante. Au sein de ce groupe, 36 % ont été contraintes de reporter ou de réduire la portée de leurs initiatives liées à l’IA, à l’automatisation ou à la science des données.
Changer de fournisseur ? S’engager dans une autre voie ? L’étude « The Cost of Innovation » montre que 44 % des entreprises en retard en matière d’innovation et 22 % de celles qui sont en pointe éprouvent des difficultés à changer de fournisseur d’infrastructure. Les frais de transfert de données (tels que les coûts liés aux API ou à la sortie de données), la fragmentation des infrastructures et la complexité des migrations peuvent empêcher les entreprises de basculer vers des services plus abordables, même lorsque les économies potentielles sont évidentes.
L’étude révèle également que 89 % des entreprises ont dû supporter des coûts supplémentaires liés à la fragmentation de leurs environnements de données. En même temps, 84 % ont, au moins une fois au cours de l’année écoulée, rencontré des difficultés d’accès ou des retards d’accès aux données nécessaires à la réalisation d’un projet ou à la prise d’une décision.
Pour les charges de travail liées à l’IA, qui nécessitent souvent l’accès à de grands volumes de données et leur transfert entre des environnements de stockage et de calcul, ces contraintes peuvent limiter la flexibilité et accroître les coûts.
Des contraintes budgétaires, des conséquences pour l’innovation
Dans les huit économies étudiées, 84 % des organisations ont dû, au cours de l’année écoulée, faire des compromis dictés par des contraintes budgétaires. Ce chiffre atteint 92 % parmi les entreprises qui ne sont pas en mesure de changer de fournisseur d’infrastructure.
Les conséquences pour l’innovation sont tangibles. 29 % ont réduit ou reporté des recrutements prévus dans les domaines de la technologie, des données, de l’IA ou de l’innovation. 28 % ont reporté ou réduit l’envergure d’une initiative liée à l’IA, à l’automatisation ou à la science des données. Et 25 % ont mené moins d’expérimentations en matière d’IA, d’apprentissage automatique (machine learning) ou de science des données. Enfin,16 % ont reporté ou annulé le lancement d’un produit.
Le retard d’une initiative liée à l’IA peut entraîner la perte de plusieurs mois de développement. L’annulation du lancement d’un produit peut signifier rater une opportunité de marché. Ces décisions ont, hélàs, des répercussions qui dépassent largement le cadre du budget informatique.
