L’IA la plus performante sera celle qui est disponible là où le travail se déroule

L’avenir de l’IA ne peut pas reposer uniquement sur le cloud. Face à l’explosion des modèles, traiter l’intégralité des données dans des centres distants devient financièrement et logistiquement intenable pour les entreprises. Explications de Prakash Arunkundrum, Chief Strategy & Transformation Officer, HP Inc.

« Toute cette IA doit-elle vraiment fonctionner dans le cloud ? » Pour Prakash Arunkundrum, c’est la question du moment. Celle que posent tous les CIO, lancés dans leurs projets d’IA. Et pour cause, c’est cher. Sans compter la question de la sécurité. Et la confidentialité des données…

L’investissement en soi n’est pas le problème, estime Prakash Arunkundrum. Des entreprises de toutes tailles consacrent des budgets importants à l’IA ; selon les études de HP, 63 % des employés utilisent désormais l’IA dans leurs tâches quotidiennes ou hebdomadaires. Les outils ne cessent de s’améliorer : ils sont de plus en plus intégrés aux systèmes et aux processus, et gagnent en autonomie grâce aux agents. C’est précisément ce que l’on attend de l’IA.

Un besoin accru d’intelligence, mais à quel prix ?

Cependant, dès lors que l’IA dépasse le stade de la simple interface de discussion pour s’intégrer aux flux de travail et aux agents autonomes, les exigences changent. « La question du coût est la première préoccupation qui m’est exprimée. Et pour cause : selon CNBC, environ 95 % des charges de travail liées à l’IA en entreprise reposent encore sur des modèles de pointe -les fameux ‘frontier models’ -très coûteux, alors même que de nombreuses tâches courantes pourraient être traitées par des alternatives plus légères et moins onéreuses. »

Le second sujet est celui de la sécurité. Les dirigeants repensent la sécurité pour un environnement où des agents autonomes, agissant en temps réel au sein des systèmes, exigent des réponses instantanées. La gestion des données sensibles soulève des questions complexes : quelles informations doivent réellement quitter l’infrastructure interne de l’entreprise ?

« À mesure que les capacités de l’IA se développent, les organisations sont confrontées à une tension majeure : d’un côté, le besoin d’une intelligence accrue, de décisions plus rapides et d’un accès élargi à l’IA ; de l’autre, une hausse des coûts et une complexification des risques liés à la sécurité. »

Au plus près de l’utilisateur

Cette situation stimule la demande pour l’inférence locale, qui offre une meilleure rentabilité, une sécurité renforcée et une latence réduite. « L’hybridation est en marche ! », assure Prakash Arunkundrum.

De nouvelles innovations en matière de semi-conducteurs permettent d’intégrer des capacités de calcul IA significatives directement au sein des appareils. Il devient ainsi possible d’exécuter davantage d’opérations d’inférence localement, sans que chaque requête ne doive transiter par le cloud, évitant par la même occasion des coûts supplémentaires liés à l’utilisation.

« Mon propre HP Elitebook X fait tourner un modèle de 20 milliards de paramètres et génère régulièrement des informations utiles. Il s’agit d’un tournant majeur : une grande partie du prochain chapitre de l’IA se déroulera au plus près de l’utilisateur, des données et des lieux où le travail est réellement effectué ! »

Autrefois, les ordinateurs occupaient des pièces entières ; ils ont ensuite migré vers nos bureaux, nos sacs, puis nos poches. L’IA suit la même trajectoire, mais à un rythme plus soutenu. Les modèles deviennent plus compacts et moins coûteux à exécuter, tandis que les appareils déjà présents sur nos bureaux ou dans nos usines gagnent en puissance, leur permettant de les prendre en charge.

Quand la valeur se déplace du cloud vers l’appareil lui-même

De nombreuses charges de travail liées à l’IA sont mieux traitées sur des PC dédiés à l’IA, des stations de travail ou des appareils en périphérie de réseau, défend HP. C’est particulièrement vrai pour les systèmes basés sur des agents ou les tâches d’inférence qui exigent une faible latence, répondent à des exigences de sécurité strictes, ou exploitent des données déjà présentes localement. L’exécution en local offre une optimisation des coûts liés aux « tokens », une latence réduite et une sécurité des données renforcée.

À cela s’ajoutent d’autres avantages. Lorsque l’IA fonctionne directement sur l’appareil, elle permet de créer des expériences propres à ce produit. Le contexte, la mémoire et les flux de travail restent à proximité immédiate de l’utilisateur, rendant l’expérience plus personnalisée et plus sécurisée. La valeur se déplace alors du cloud vers l’appareil lui-même.

« Il ne s’agit pas pour autant d’un abandon du cloud, précise Prakash Arunkundrum. L’inférence dans le cloud restera indispensable pour les charges de travail les plus vastes, les plus complexes et les plus exigeantes en termes de puissance de calcul. Toutefois, la prochaine phase de l’IA nécessitera une orchestration plus intelligente, où chaque tâche sera orientée vers l’environnement offrant le meilleur équilibre entre performance, coût, sécurité et expérience utilisateur. »

C’est déjà une réalité

La véritable promesse de l’IA en périphérie est de permettre aux collaborateurs d’optimiser leur travail, là où cela est nécessaire : dans les cliniques, les salles de classe, les usines, sur le terrain ou au cœur des processus opérationnels quotidiens.

« Partout, des organisations déploient d’ores et déjà des systèmes d’IA complexes directement sur le lieu d’activité, utilisant la vision par ordinateur et des modèles audio pour détecter des défauts en temps réel. Les données étant générées sur place, la décision doit y être prise instantanément. Envoyer chaque image vers un centre de données pour attendre une réponse n’a aucun sens lorsque chaque milliseconde compte. »

Les analystes observent cette tendance. D’ici 2028, prévoit Gartner, plus de 20 % des entreprises exécuteront des charges de travail liées à l’IA localement. De son côté, McKinsey estime qu’à l’horizon 2030, l’inférence représentera plus de la moitié de l’ensemble des charges de travail en IA, avec une part croissante traitée en périphérie.

« Pour concrétiser cette approche à l’échelle de l’entreprise, il ne suffit pas de disposer d’appareils puissants », prévient Prakash Arunkundrum. Encore faut-il une infrastructure d’IA hybride complète, incluant des terminaux sécurisés en périphérie, des outils de gestion et de gouvernance des modèles, des mécanismes de sécurité dédiés à l’IA, ainsi qu’une orchestration entre les appareils, la périphérie et le cloud.

Là où les données sont créées, là où les décisions doivent être prises

« La question n’est plus de savoir si l’IA se rapprochera des lieux où s’effectue le travail, mais plutôt avec quelle rapidité le secteur pourra rendre cette transition sécurisée, évolutive et opérationnelle pour les clients. Ainsi, je conseille aux responsables informatiques qui accompagnent cette mutation de changer de perspective : au lieu de se demander où les données doivent être traitées, il convient de se demander où le travail est réellement accompli. »

L’IA la plus performante sera celle qui est disponible là où le travail se déroule, qu’il s’agisse d’une ligne de production, du poste de travail d’un ingénieur ou de l’ordinateur portable que vous utilisez en ce moment. Il s’agit d’une intelligence sécurisée, personnalisée et intégrée aux appareils, qui permet de réduire les coûts liés au cloud tout en renforçant la confidentialité, en diminuant la latence et en améliorant la productivité des utilisateurs.

L’avenir de l’IA est hybride, conclut Prakash Arunkundrum. Pour les entreprises, « l’enjeu n’est pas de choisir entre le cloud et la périphérie, mais d’orchestrer l’intelligence là où elle génère le plus de valeur. » Cela implique de concevoir des architectures d’IA en tenant compte des réalités du travail : là où les données sont créées, là où les décisions doivent être prises, et là où les employés et les clients ont besoin d’une meilleure expérience.