Data Center

Infrastructure, Servers, Network, Storage

Nvidia DGX chez Equinix. GenAI en mode privé

Fév 5, 2024 | Data Center | 0 commentaires

Equinix a commencé à offrir à ses clients la possibilité d’exécuter des applications d’IA générative sur une infrastructure de cloud privé entièrement gérée basée sur les logiciels et le matériel Nvidia.

Private AI with Nvidia DGX chez Equinix. La solution clé en main est destinée aux entreprises qui souhaitent utiliser l’IA générative, mais ne disposent pas de l’infrastructure et de l’expertise dans les centres de données nécessaires pour le faire elles-mêmes. Concrètement, Equinix héberge et gère les superordinateurs Nvidia DGX achetés par les entreprises. Il s’agit donc d’un accord de colocation standard, mais au lieu de serveurs x86 traditionnels, Equinix héberge des clusters de GPU Nvidia dopés aux accélérateurs H100.  

Cette solution est destinée aux entreprises qui, pour diverses raisons de sécurité, de souveraineté des données et d’auditabilité, ne veulent pas que leurs données soient hébergées dans un cloud public, argumente Nvidia. De fait, si l’offre est comparable à celle d’AWS, Google Cloud et Microsoft Azure, celle-ci est proposée dans un environnement privé.

Un marché en devenir

L’alternative au cloud public d’Equinix comprend du matériel Nvidia DGX contenant huit GPU principaux H100 Tensor, 2 To de mémoire système, une mise en réseau et un stockage spécifique -le système est livré avec le logiciel Nvidia AI Enterprise pour la gestion du système.

Pour ses clients, Equinix conçoit, installe et exploite l’environnement Nvidia pour permettre aux clients de générer le résultat souhaité par les clients à partir des modèles d’IA exécutés sur les systèmes, a indiqué la société.

A en croire Equinix, c’est un marché en devenir. De nombreuses entreprises qui ont testé l’année dernière des modèles d’IA générative sur des cloud publics souhaitent exploiter leurs connaissances pour les déployer cette année. Dans la plupart des cas, les entreprises peuvent atteindre leurs objectifs en utilisant des ensembles de données sur des modèles comportant seulement 7 milliards de paramètres, a chiffré Gartner. 

GenAI en mode « full managed » sur Nvidia DGX

Ne nous leurrons pas : le passage à l’IA est long et abrupt ; il est très coûteux et les compétences sont difficiles à trouver. Tous ces éléments sont des freins à l’adoption et au déploiement d’une IA globale par les entreprises.

Dans ce contexte, Equinix offre un service entièrement géré. Et sûr : l’opérateur est l’un des plus grands fournisseurs de datacenters au monde, avec 250 installations dans 71 zones géographiques. Ses datacenters sont connectés à Internet via un réseau privé à haut débit.