Jensen Huang, cofondateur et PDG de Nvidia, a présenté la nouvelle puce Blackwell, à gauche, pour la comparer à son prédécesseur, H100, "Hopper". Nvidia
Jensen Huang, PDG de Nvidia, a présidé lundi la première conférence technologique organisée en personne par le fabricant de puces d'IA depuis la pandémie de COVID-19, la GPU Technology Conference, ou GTC, à San Jose, en Californie, et a dévoilé le nouveau design de la société pour ses puces, dont le nom de code est "Blackwell".
Beaucoup considèrent la GTC comme le "Woodstock de l'IA" ou le "Lalapalooza de l'IA". "J'espère que vous comprenez qu'il ne s'agit pas d'un concert", a déclaré M. Huang à la suite des applaudissements nourris qui ont marqué le début de la conférence. Il a salué la liste de partenaires et de clients présents.
"Michael Dell est assis juste là", a déclaré M. Huang, précisant que le fondateur et PDG de Dell se trouvait dans l'auditoire.
2 000 billions d'opérations en virgule flottante par seconde
M. Huang a mis l'accent sur l'échelle de calcul nécessaire pour former les grands modèles de langage de l'IA générative, ou GenAI. Un modèle comportant des billions de paramètres, associé à des données d'entraînement représentant des billions de "tokens", ou parties de mots, nécessiterait "30 milliards de quadrillions d'opérations en virgule flottante", soit 30 milliards de petaFLOPS, a fait remarquer M. Huang. "Si vous disposiez d'un GPU petaFLOP, il vous faudrait 30 milliards de secondes pour calculer et entraîner ce modèle - 30 milliards de secondes, c'est environ 1 000 ans.
M. Huang a commencé sa présentation par un aperçu de la taille croissante des charges de travail de l'IA, notant que les puces les plus puissantes mettraient 30 milliards de secondes, soit 1 000 ans, à s'entraîner. Nvidia
Le GPU H100 de Nvidia, la puce la plus récente, permet d'effectuer environ 2 000 billions d'opérations en virgule flottante par seconde, soit 2 000 TFLOPS. Un millier de TFLOPS est égal à un petaFLOP, ce qui signifie que le H100 et son frère, le H200, ne peuvent gérer que quelques petaFLOPS, bien en deçà des 30 milliards auxquels Huang a fait référence.
"Ce dont nous avons besoin, ce sont des GPU plus grands - nous avons besoin de GPU beaucoup, beaucoup plus grands", a-t-il déclaré.
Plus du double des 80 milliards de transistors des GPU Hopper
Blackwell, connu dans l'industrie sous le nom de "HopperNext", peut réaliser 20 petaFLOPS par GPU. Il est destiné à être livré dans un système à 8 voies, un "HGX" circuit imprimé des puces.
En utilisant la "quantification", une sorte d'opération mathématique comprimée où chaque valeur dans un réseau neuronal est représentée en utilisant moins de décimales, appelée "FP4", la puce peut exécuter jusqu'à 144 petaFLOPs dans un système HGX.
La puce compte 208 milliards de transistors, a expliqué M. Huang, et utilise un processus de fabrication de semi-conducteurs personnalisé de Taiwan Semiconductor Manufacturing, connu sous le nom de "4NP". Cela représente plus du double des 80 milliards de transistors des GPU Hopper.
Le GPU Nvidia Blackwell multiplie par dix le nombre d'opérations mathématiques en virgule flottante par seconde et fait plus que doubler le nombre de transistors de la série "Hopper" qui l'a précédé. Nvidia souligne la capacité de la puce à exécuter des modèles de langage volumineux 25 fois plus rapidement. Nvidia
AWS, Dell, Google, Meta, Microsoft, OpenAI, Oracle, Tesla et xAI parmi les utilisateurs
Blackwell peut exécuter de grands modèles de langage d'IA générative avec un trillion de paramètres 25 fois plus vite que les puces précédentes, a déclaré M. Huang.
La puce porte le nom de David Harold Blackwell, qui, selon Nvidia, était "un mathématicien spécialisé dans la théorie des jeux et les statistiques, et le premier chercheur noir intronisé à l'Académie nationale des sciences".
La puce Blackwell utilise une nouvelle version de la liaison réseau à grande vitesse de Nvidia, NVLink, qui fournit 1,8 téraoctet par seconde à chaque GPU. Une partie discrète de la puce est ce que Nvidia appelle un "moteur RAS", pour maintenir "la fiabilité, la disponibilité et la facilité d'entretien" de la puce. Un ensemble de circuits de décompression améliore les performances d'éléments tels que les requêtes de base de données.
Amazon Web Services, Dell, Google, Meta, Microsoft, OpenAI, Oracle, Tesla et xAI figurent parmi les premiers utilisateurs de Blackwell.
GB200 Grace Blackwell Superchip
Comme ses prédécesseurs, deux GPU Blackwell peuvent être combinés avec l'un des microprocesseurs "Grace" de Nvidia pour produire une puce combinée, appelée "GB200 Grace Blackwell Superchip".
Comme les GPU Hopper qui l'ont précédé, deux GPU Blackwell peuvent être combinés avec un microprocesseur Grace de Nvidia pour produire une puce combinée, appelée "GB200 Grace Blackwell Superchip". Nvidia
36des Grace et 72 des GPU peuvent être combinés pour un ordinateur en rack que Nvidia appelle le "GB200 NVL72" qui peut réaliser 1 440 petaFLOPS, se rapprochant ainsi du milliard de petaFLOPs cité par Huang.
Un nouveau système pour les puces, le DGX SuperPOD, combine des "dizaines de milliers" de Grace Blackwell Superchips, ce qui augmente encore le nombre d'opérations par seconde.
Outre Blackwell, Nvidia a fait plusieurs autres annonces :
-
Nouveaux algorithmes d'IA générative pour améliorer sa bibliothèque existante d'algorithmes de conception de semi-conducteurs connus sous le nom de "cuLitho", en référence à la photolithographie utilisée dans le processus de conception des semi-conducteurs. Le code GenAI génère un "photomasque" initial pour la lithographie, qui peut ensuite être affiné par des méthodes traditionnelles.
Il accélère de 100 % la conception de ces photomasques. TSMC et le fabricant de logiciels de conception de puces Synopsys intègrent cuLitho et les nouvelles fonctions GenAI dans leurs technologies. - Une nouvelle ligne de commutateurs de réseau et de cartes d'interface de réseau basée sur la technologie InfiniBand développée par Mellanox de Nvidia, le "Quantum-X800 Infiniband", et sur la norme de réseau Ethernet, le "Spectrum-X800 Ethernet". Les deux technologies fournissent 800 milliards de bits par seconde, ou 800 Gbps. Nvidia affirme que les commutateurs et les cartes d'interface réseau sont "optimisés pour l'informatique GPU à un trillion de paramètres" afin de gérer la vitesse des opérations en virgule flottante des puces.
-
Un catalogue de 25 "micro-services" logiciels de services de conteneurs d'applications basés sur le cloud, préconstruits pour des applications individuelles, y compris des modèles d'IA personnalisés, construits au-dessus de la suite logicielle de conteneurs "NIM" de Nvidia, qui fait à son tour partie de l'offre logicielle AI Enterprise de l'entreprise.
Les programmes sont ce que l'entreprise décrit comme un "chemin standardisé pour exécuter des modèles d'IA personnalisés optimisés pour la base installée CUDA de Nvidia, qui compte des centaines de millions de GPU dans les nuages, les centres de données, les stations de travail et les PC". Les micro-services comprennent un ensemble de services axés sur les sciences de la vie, dont certains sont dédiés à la "biologie générative", à la chimie et aux tâches de "prédiction moléculaire", pour effectuer "l'inférence", la génération de prédictions, "pour une collection croissante de modèles dans les domaines de l'imagerie, de la technologie médicale, de la découverte de médicaments et de la santé numérique". Les micro-services sont disponibles via les systèmes de Dell et d'autres fournisseurs, via les services de cloud public, notamment AWS, Google Cloud, Microsoft Azure et Oracle Cloud Infrastructure, et ils peuvent être testés sur le propre service de cloud de Nvidia. - Earth-2, un micro-service distinct conçu comme une simulation "jumeau numérique" de conditions météorologiques extrêmes, destiné à "fournir des alertes et des prévisions actualisées en quelques secondes, contre des minutes ou des heures dans la modélisation traditionnelle pilotée par le processeur". La technologie est basée sur un modèle d'IA génératif construit par Nvidia appelé "CorrDiff", qui peut générer des "images de résolution 12,5 fois plus élevée" des modèles météorologiques "que les modèles numériques actuels, 1 000 fois plus rapidement et 3 000 fois plus efficacement en termes d'énergie". The Weather Company est l'un des premiers utilisateurs de cette technologie.
-
Outre les annonces de produits et de technologies, Nvidia a annoncé un certain nombre d'initiatives avec des partenaires :
Source : "ZDNet.com"