C'est le 2U 4

Jan 17, 2024

Au Computex 2023, nous avons vu un serveur NVIDIA Grace Superchip 2U à 4 nœuds d'ASUS. Surnommé ASUS RS720QN-E11-RS24U, il combine le châssis 2U 2,5″ à 24 baies que nous avons vu dans un certain nombre de revues ASUS avec quatre nœuds NVIDIA Grace Superchip.

Ce qui était intéressant, c'est que le module NVIDIA Grace Superchip est magnifique, mais ce n'est pas ce que nous voyons être déployé sur de nombreux serveurs. Pourtant, voici le module dans sa peau de beauté.

Pour rappel rapide, un processeur NVIDIA Grace est une conception Arm Neoverse V2 à 72 cœurs. NVIDIA indique que deux de ces processeurs à 72 cœurs dans la configuration appelée "Grace Superchip" devraient obtenir un SPECint_rate_2017 d'environ 740. Il s'agit d'un nombre estimé car ils ne sont pas soumis officiellement aux résultats. Certaines publications ont déclaré que cette solution à double puce avec 144 cœurs est le processeur le plus rapide (ou la configuration à double processeur) du marché. ASUS avec un seul AMD EPYC 9654 est à 898 ici à titre d'exemple. Compte tenu des chiffres estimés par NVIDIA, la solution double Grace devrait être compétitive avec l'AMD EPYC "Genoa" à socket unique 84-96 cœurs du côté entier.

Ce que cette solution a, c'est une interconnexion puce à puce haute vitesse ainsi qu'une mémoire LPDDR5X avec ECC intégré.

À 500 W, avec la mémoire incluse dans ce chiffre, il est assez économe en énergie. Cet AMD EPYC 9654 a un TDP de 360 ​​W mais dispose également de 12 canaux de mémoire qui peuvent utiliser 60 W + supplémentaires. Ce que NVIDIA obtient avec cela, cependant, c'est 960 Go de mémoire ECC avec environ 1 To/s de bande passante mémoire. Ainsi, la puce NVIDIA Grace Superchip est vraiment conçue pour une bande passante mémoire élevée sans utiliser de mémoire HBM comme le processeur Intel Xeon MAX.

Puisqu'il s'agit de notre première pièce sur un système avec la NVIDIA Grace Superchip, nous voulions clarifier un peu les puces puisque NVIDIA est devenu populaire et que les sites grand public disent que c'est la puce la plus rapide sans expliquer en quoi elle est la plus rapide.

Voici les spécifications rapides de l'ASUS RS720QN-E11-RS24U. Quelque chose d'intéressant est qu'ASUS dit LPDDR5 à 512G/256G. Les modules devraient être livrés avec LPDDR5X dans des configurations de 240 Go, 480 Go et 960 Go (avec ECC.)

Le système ressemble à la plupart des nœuds ASUS, avec des E/S arrière et une gestion. Une grande différence est que nous n'obtenons pas le voyant du code POST ici.

À l'intérieur du système, nous obtenons deux emplacements PCIe Gen5 ainsi qu'un emplacement OCP NIC 3.0. Nous pouvons également voir l'ASPEED BMC à bord.

Le NVIDIA Grace Superchip possède un énorme dissipateur thermique personnalisé pour le châssis et s'étend sur toute la largeur du nœud. C'est en fait un grand différenciateur par rapport aux serveurs x86 actuels où les dissipateurs thermiques sont limités à la zone autour du socket vers les emplacements DIMM. D'un point de vue rafraîchissant, Grace a beaucoup de sens.

Une autre fonctionnalité intéressante est qu'en plus des six baies avant de 2,5 pouces par nœud, il existe un double module M.2 pour les lecteurs de démarrage.

Le nœud se connecte au châssis via des connecteurs haute densité.

Nous n'allons pas trop nous concentrer sur le châssis puisque c'est quelque chose que nous avons déjà vu.

Dans l'ensemble, c'était génial de pouvoir voir le système NVIDIA Grace Superchip en personne. La mémoire LPDDR5X intégrée donne à cette solution beaucoup de bande passante mémoire avec les cœurs 144 Arm Neoverse V2. Ce que nous sous-estimons probablement avant de voir les systèmes, c'est à quel point la mémoire embarquée modifie la manière dont les solutions de refroidissement peuvent être conçues pour ces serveurs, car elles n'ont pas à prendre en compte la hauteur des emplacements DIMM.

Espérons que nous verrons bientôt plus de ces systèmes dans le laboratoire STH.