Det var ved CES 2022 tidligere i år, da NVIDIA afslørede nogle af sine nyheder for det, den præsenterede i dag, sine nye servere baseret på Grace-platformen, det seneste inden for HPC og AI. Og det er, at disse servere kommer til at omdefinere alle de sektorer på markedet, hvor de kommer ind, siden NVIDIA har vist HGX Grace Datacenter modeller, som den planlægger at inkludere og... Med mere end 12,000 kerner og 1 TB RAM, vil de være referencen til at slå.
Flere virksomheder vil stille enhver af de fire typer servere, som NVIDIA har designet til rådighed for deres kunder: ASUS, Foxconn, GIGABYTE, OCT, Supermicro og Wiwynn, hvor deres tilpasning vil løfte de fire typer Huang-modeller til over et dusin forskellige virksomhedsservere. De kommer om et år, 2023, men vi har allerede hjertet og den maksimale konfiguration af dem alle på bordet: HGX Grace CPU Superchips og Grace Hopper Superchip.
NVIDIA HGX Grace: den monstrøse server med 12,096 kerner
Som altid er de detaljer, der ikke bliver sagt, de vigtigste, da de afslører data, som virksomheden ikke ønsker at vise, selvom de er foran os. HGX Grace-servere repræsenterer det største gigantiske spring i denne verden, der huskes.
De vil bære NVIDIA Grace Superchip CPU, det vil sige to processorer, der er sammenhængende forbundet via NVLink C2C baseret på ARM V9 Neoverse og designet til AI- og HPC-infrastruktur. Det består derfor af, hvad NVIDIA kalder et CPU-CPU-modul og har for hvert printkort, der integrerer det ikke mindre end 144 kerner med LPDDR5X-hukommelse med op til 1 TB pr. stativ og en båndbredde på ikke mindre end 1 TB / s .
Alt forbrugende 500 watt og være i stand til at afkøle med luft eller vand. Det mest imponerende her er, at NVIDIA tillader servere med op til 84 noder pr. rack, hvilket er en kæmpestor 12,096-kerner i alt. I betragtning af, at HGX Grace er 1.5 gange hurtigere end DGX A100 til at begynde med, kan vi allerede forestille os det udyr, som det grønne hold har skabt.
HGX Grace Hopper: CPU og GPU på ét printkort
Denne type server satser på den anden mulighed for NVIDIA. Og det er, at her har vi ikke to CPU'er, men CPU og GPU på det samme substrat, som kommunikerer igen af NVLink C2C for at have en højtydende sammenhængende hukommelsesmodel, der vil blive forbundet kl. 900 GB / s er 7 gange hurtigere end PCIe 5.0-bussen.
Det, NVIDIA har skabt, er den ultimative multitasking-server, der er i stand til at arbejde med enhver af virksomhedens softwarestakke, det være sig for HPC, AI eller Omniverse , så det er mangefacetteret. Skemaet at følge er enkelt her med disse HGX Grace Hopper servere, vil hver enkelt integrere en 4nm Hopper GPU med en Grace CPU, hvor hver enkelt vil have sin egen hukommelse, den første har ikke mindre end 80 GB HBM3 og den anden 512 GB LPDDR5X tilgængelige.
Dette tilføjet til den samlede båndbredde ville give os 3.5 TB / s med et samlet forbrug på 1000 watt pr. stativ og har mulighed for at blive afkølet med luft eller vand. Det sikrer NVIDIA 42 knuder pr. stativ kan installeres i HGX Grace Hopper.
Serverdesign og din portefølje
Der vil være fire specifikke designs afhængigt af den arbejdsbyrde, som producenterne måtte have brug for, hvor inden for disse fire typer hver enkelt kan konfigurere og tilpasse dem efter deres behov, hvilket efterlader en bred vifte af fordele og priser:
- NVIDIA HGX Grace Hopper systemer til AI-træning, inferens og HPC er tilgængelige med Grace Hopper Superchip og NVIDIA BlueField-3.
- NVIDIA HGX Grace Systemer til HPC og Supercomputing: Har et CPU-kun design med Grace CPU Superchip, BlueField-3 og NVIDIA GPU'er.
- NVIDIA OVX systemer til digitale tvillinger og kollaborative arbejdsbelastninger har Grace CPU Superchip, BlueField-3 og NVIDIA.
- NVIDIA CGX systemer til grafik og skyspil har Grace Superchip CPU'er, BlueField-3 og NVIDIA A16 GPU'er.
Som forventet er der endnu ikke afsløret priser, da vi er et år fra dens officielle lancering, så det må forventes, at NVIDIA i løbet af denne tid vil afsløre omkostningerne, som bestemt ikke vil være billige.
