Se oli CES 2022 -tapahtumassa aiemmin tänä vuonna NVIDIA paljasti joitain uutisiaan siitä, mitä se esitteli tänään, uudet palvelimet, jotka perustuvat Grace-alustalle, uusimpaan HPC:hen ja tekoälyyn. Ja kyse on siitä, että nämä palvelimet määrittelevät uudelleen kaikki markkinoiden osa-alueet, joille ne tulevat NVIDIA on osoittanut HGX Grace Data Center malleja, jotka se aikoo sisällyttää ja… Yli 12,000 1 ydintä ja XNUMX TB RAM, ne ovat viittaus voittaa.
Useat yritykset tarjoavat asiakkailleen minkä tahansa NVIDIAn suunnittelemista neljästä palvelintyypistä: ASUS, Foxconn, GIGABYTE, OCT, Supermicro ja Wiwynn, joissa niiden mukauttaminen nostaa neljän tyyppiset Huang-mallit yli tusinaan eri yrityspalvelimeen. Ne saapuvat vuoden 2023 kuluttua, mutta meillä on jo niiden kaikkien sydän ja maksimikokoonpano pöydällä: HGX Grace prosessori Superchips ja Grace Hopper Superchip.
NVIDIA HGX Grace: hirvittävä palvelin, jossa on 12,096 XNUMX ydintä
Kuten aina, ne yksityiskohdat, joita ei sanota, ovat tärkeimpiä, koska ne paljastavat tietoja, joita yritys ei halua näyttää, vaikka ne ovat edessämme. HGX Grace -tyyppiset palvelimet edustavat tämän maailman suurinta muistettavaa jättiharppausta.
Niissä on NVIDIA Grace Superchip -suoritin, eli kaksi prosessoria, jotka on yhdistetty johdonmukaisesti NVLink C2C:n kautta. ARM V9 Neoverse ja suunniteltu tekoäly- ja HPC-infrastruktuuriin. Siksi se koostuu siitä, mitä NVIDIA kutsuu CPU-CPU-moduuliksi, ja siinä on jokaiselle sen integroivalle piirilevylle vähintään 144-ytimet with LPDDR5X-muisti jopa 1 TB per teline ja kaistanleveys vähintään 1 TB / s .
Kaikki kuluttaa 500 wattia ja voi jäähtyä ilmalla tai vedellä. Vaikuttavin asia tässä on, että NVIDIA sallii palvelimia, joissa on jopa 84 solmua per teline, mikä on mahtava 12,096-ytimet yhteensä. Kun otetaan huomioon, että HGX Grace on aluksi 1.5 kertaa nopeampi kuin DGX A100, voimme jo kuvitella vihreän joukkueen luoman pedon.
HGX Grace Hopper: CPU ja GPU yhdellä piirilevyllä
Tämäntyyppinen palvelin vetoaa NVIDIA:n toiseen vaihtoehtoon. Ja se on, että täällä meillä ei ole kahta prosessoria, vaan CPU ja GPU samalla substraatilla, jotka kommunikoivat uudelleen NVLink C2C:n avulla, jotta niillä on korkean suorituskyvyn koherentti muistimalli, joka yhdistetään 900 GB / s on 7 kertaa nopeampi kuin PCIe 5.0 -väylä.
NVIDIA on luonut äärimmäisen moniajopalvelimen, joka pystyy toimimaan minkä tahansa yrityksen ohjelmistopinon kanssa, olipa kyseessä sitten HPC, AI tai Omniverse , joten se on monipuolinen. Noudatettava kaava on yksinkertainen näiden kanssa HGX Grace Hopper palvelimet, jokainen integroi a 4nm Hopper GPU Grace CPU:lla, jossa jokaisella on oma muisti, ensimmäisellä vähintään 80 Gt HBM3 ja toinen 512 Gt LPDDR5X saatavissa.
Tämä lisättynä kokonaiskaistanleveyteen antaisi meille 3.5 TB / s kokonaiskulutuksella 1000 wattia telinettä kohti ja se voidaan jäähdyttää ilmalla tai vedellä. NVIDIA takaa sen 42 solmut telinettä kohti voidaan asentaa HGX Grace Hopperiin.
Palvelinmallit ja portfoliosi
Valmistajien mahdollisesti tarvitsemasta työmäärästä riippuen on neljä erityistä mallia, joista kukin näistä neljästä tyypistä voi konfiguroida ja mukauttaa ne tarpeidensa mukaan, mikä jättää monenlaisia etuja ja hintoja:
- NVIDIA HGX Grace Hopper järjestelmiä tekoälykoulutukseen, päättelyyn ja HPC:hen on saatavana Grace Hopper Superchipin ja NVIDIA BlueField-3:n kanssa.
- NVIDIA HGX Grace Järjestelmät HPC:tä ja supertietokonetta varten: Vain suorittimella varustettu rakenne Grace CPU Superchip-, BlueField-3- ja NVIDIA-grafiikkasuorittimilla.
- NVIDIA OVX järjestelmät digitaalisille kaksosille ja yhteistyöhön liittyville työkuormille sisältävät Grace CPU Superchipin, BlueField-3:n ja NVIDIAn.
- NVIDIA CGX grafiikka- ja pilvipelaamisjärjestelmissä on Grace Superchip -suorittimet, BlueField-3- ja NVIDIA A16 -grafiikkasuorittimet.
Kuten odotettiin, hintoja ei ole vielä paljastettu, koska olemme vuoden päässä sen virallisesta julkaisusta, joten on odotettavissa, että tänä aikana NVIDIA paljastaa kustannukset, jotka eivät varmasti ole halpoja.
