L’IA générative s’impose. Le besoin d’observabilité ne fera que grandir. AI Observability de Dynatrace propose une observabilité qui englobe l’ensemble de la pile technologique liée à l’IA

Plus d’observabilité, par nécessité. D’ici 2028, l’adoption de l’IA va considérablement augmenter, prévoit Gartner. Plus de 50 % des ressources de calcul cloud qui seront consacrés aux charges de travail d’IA, contre moins de 10 % en 2023. Rien d’étonnant, à en croire Dynatrace. Cette croissance reflète en partie l’intérêt croissant des organisations pour l’IA générative comme moyen d’améliorer leur efficacité et leur productivité, piloter l’automatisation et favoriser l’innovation.

AI Observability est une évolution de la plateforme d’analyse et d’automatisation de l’éditeur. L’outil vise à doter les applications utilisant les intelligences artificielles génératives d’une observabilité et d’une sécurité accrues. Objectif : marier observabilité, sécurité et protection de la confidentialité des données.

Observabilité globale

Dynatrace propose une observabilité qui englobe l’ensemble de la pile technologique liée à l’IA, incluant l’infrastructure, comme par exemple les GPU Nvidia, les modèles de base tels que GPT-4, ainsi que les caches sémantiques et les bases de données vectorielles de type Weaviate et les outils d’orchestration comme LangChain. La solution est également compatible avec les principales plateformes de développement, d’entraînement et de déploiement de modèles IA, y compris le service Azure Open AI de Microsoft, Amazon SageMaker et la plateforme IA de Google.

Support de la solution, Davis. Il s’agit de l’IA causale de la plateforme, ainsi que d’autres technologies clés pour fournir une vue précise et complète des applications basées sur IA. Les organisations peuvent donc fournir des expériences utilisateurs de grande qualité, tout en identifiant automatiquement les goulots d’étranglement de performance et leurs causes.

Une vue plus précise sur les coûts

Dynatrace insiste aussi sur la nécessité pour les organisations à prévoir et contrôler les coûts en surveillant leur consommation d’appels, unités que les modèles d’IA générative facturent pour traiter les requêtes. Ce dernier aspect va devenir sensible. En effet, de nombreuses organisations s’inquiètent des coûts associés aux services basés sur une IA générative. Ces derniers peuvent être beaucoup plus élevés que pour les services cloud traditionnels, et sont difficiles à prévoir puisqu’ils sont basés sur la consommation de tokens d’IA générative par des applications qui ne sont pas encore en production.

En parallèle, les gouvernements à travers le monde sont en train d’établir des réglementations visant un usage responsable et éthique des technologies d’IA, dans le respect des lois en vigueur.

Pour Bernd Greifeneder, CTO, Dynatrace, l’IA générative ouvre un nouvel horizon de la transformation digitale, qui va permettre de créer des solutions innovantes qui boosteront la productivité, la profitabilité et la compétitivité. Comme toute révolution, elle pose néanmoins de nouveaux défis en matière de sécurité, de transparence, de fiabilité, d’expérience et de gestion financière. D’où un besoin plus important d’observabilité.