À l'occasion dela GDC 2024, NVIDIA a officialisé ses GPUs B200 et GB200, dédiés à l'Intelligence Artificelle et dire qu'il s'agit de monstres de puissances est un doux euphémisme !
Les chiffres donnent le tournis, ne perdons pas de vue qu'il s'agit de puces spécifiques, très lointaines de nos GPUs personnels, le B200 a une conception de type MCM (multi-chip-module) et embarque donc deux dies, chaque die est composé de 104 milliards de transistors, grâce à la gravure TSMC N4P (4 nm), l'interconnexion prévue promet une bande passante de 10 To/s ! Chaque die dispose d'une interface mémoire de 4096 bits vers 96 Go de mémoire HBM3E (la bande passante maximale est de 8 To/s), soit un total de 192 Go pour la puce complète B200, NVIDIA a prévu une interface NVLink de 1,8 To/s pour la connectivité hôte ou la connectivité avec une autre puce B200.
Â
Les caractéristiques vous semblent trop contenues, NVIDIA a prévu le GB200, qui est composé de deux puces B200, avec une quantité de mémoire totale de 384 Go HBM3e, au centre des deux puces B200, on trouve un CPU Grace, qui, d'après NVIDIA, est bien plus performant que les solutions x86-64 d'Intel ou d'AMD dans le domaine de l'IA.
Â
MAJ du 21 mars 2024 : un grand pouvoir implique de grandes responsabilités, le pendant dans notre domaine pourrait être une grande puissance de calcul implique un grand tarif, en effet, Jensen Huang a révélé, lors d'une interview que leur nouveau GPU B200 devrait être commercialisé à un prix compris entre 30 000 et 40 000 dollars, le CEO de NVIDIA explique que la R&D fut particulièrement poussée, avec la nécessité d'inventer de nouvelles technologies, certains spécialistes estiment que le coût de production (hors prise en compte du coût R&D et autres) du B200 serait de 6000 $, alors que le H100 ne coûterait "que" 3320 $ à NVIDIA, lors de sa production, ce dernier est proposé à un tarif compris entre 25 000 et 30 000 $.
Â
MAJ du 16 mai 2024 : Tae Kim révèle sur X de nouvelles estimations de tarifs pour les dernières puces Blackwell :
"HSBC estimates pricing for NVIDIA GB200 NVL36 server rack system is $1.8 million and NVL72 is $3 million. Also estimates GB200 ASP is $60,000 to $70,000 and B100 ASP is $30,000 to $35,000."
La solution GB200 serait donc proposée à un tarif compris entre 60.000 et 70.000 dollars, ce qui est cohérent avec l'évaluation du tarif du B200 donné par le CEO de NVIDIA, compris entre 30.000 et 40.000 dollars, puisque la solution GB200 intègre deux puces B200, le B100 pourrait être proposé à un prix compris entre 30.000 et 35.000 dollars. Le rack NVL36 (18 CPUS Grace et 36 GPUS B200) coûterait 1.8 million de dollars et le rack NV72 (36 CPUS Grace et 72 GPUS B200) coûterait 3 millions de dollars.
Les chiffres donnent le tournis, ne perdons pas de vue qu'il s'agit de puces spécifiques, très lointaines de nos GPUs personnels, le B200 a une conception de type MCM (multi-chip-module) et embarque donc deux dies, chaque die est composé de 104 milliards de transistors, grâce à la gravure TSMC N4P (4 nm), l'interconnexion prévue promet une bande passante de 10 To/s ! Chaque die dispose d'une interface mémoire de 4096 bits vers 96 Go de mémoire HBM3E (la bande passante maximale est de 8 To/s), soit un total de 192 Go pour la puce complète B200, NVIDIA a prévu une interface NVLink de 1,8 To/s pour la connectivité hôte ou la connectivité avec une autre puce B200.
Â
Les caractéristiques vous semblent trop contenues, NVIDIA a prévu le GB200, qui est composé de deux puces B200, avec une quantité de mémoire totale de 384 Go HBM3e, au centre des deux puces B200, on trouve un CPU Grace, qui, d'après NVIDIA, est bien plus performant que les solutions x86-64 d'Intel ou d'AMD dans le domaine de l'IA.
Â
MAJ du 21 mars 2024 : un grand pouvoir implique de grandes responsabilités, le pendant dans notre domaine pourrait être une grande puissance de calcul implique un grand tarif, en effet, Jensen Huang a révélé, lors d'une interview que leur nouveau GPU B200 devrait être commercialisé à un prix compris entre 30 000 et 40 000 dollars, le CEO de NVIDIA explique que la R&D fut particulièrement poussée, avec la nécessité d'inventer de nouvelles technologies, certains spécialistes estiment que le coût de production (hors prise en compte du coût R&D et autres) du B200 serait de 6000 $, alors que le H100 ne coûterait "que" 3320 $ à NVIDIA, lors de sa production, ce dernier est proposé à un tarif compris entre 25 000 et 30 000 $.
Â
MAJ du 16 mai 2024 : Tae Kim révèle sur X de nouvelles estimations de tarifs pour les dernières puces Blackwell :
"HSBC estimates pricing for NVIDIA GB200 NVL36 server rack system is $1.8 million and NVL72 is $3 million. Also estimates GB200 ASP is $60,000 to $70,000 and B100 ASP is $30,000 to $35,000."
La solution GB200 serait donc proposée à un tarif compris entre 60.000 et 70.000 dollars, ce qui est cohérent avec l'évaluation du tarif du B200 donné par le CEO de NVIDIA, compris entre 30.000 et 40.000 dollars, puisque la solution GB200 intègre deux puces B200, le B100 pourrait être proposé à un prix compris entre 30.000 et 35.000 dollars. Le rack NVL36 (18 CPUS Grace et 36 GPUS B200) coûterait 1.8 million de dollars et le rack NV72 (36 CPUS Grace et 72 GPUS B200) coûterait 3 millions de dollars.
source : Techpower Up
Marque : NVIDIA
Partagez :
Posté le 16 Mai 2024 à 15:10 par Jonathan Riemain
