NVIDIA HGX Grace、最大12096コアと1TBのRAMを搭載したサーバー

今年の初めにCES2022で NVIDIA 本日発表されたニュースの一部、最新のHPCおよびAIであるGraceプラットフォームに基づく新しいサーバーを明らかにしました。 そして、これらのサーバーは、参入する市場のすべてのセクターを再定義することになるでしょう。 NVIDIA を示しています HGXグレースデータセンター 含める予定のモデルと…12,000を超えるコアと1TBの RAM、それらはビートへの参照になります。

いくつかの企業は、NVIDIAが設計したXNUMX種類のサーバーのいずれかを顧客に提供します。 ASUS、Foxconn、GIGABYTE、OCT、Supermicro、およびWiwynn。これらのカスタマイズにより、2023種類のHuangモデルがXNUMXを超える異なるビジネスサーバーに昇格します。 それらはXNUMX年に到着しますが、私たちはすでにそれらすべての心と最大の構成をテーブルに持っています: HGXグレース CPU スーパーチップスとグレースホッパースーパーチップス。

NVIDIA HGX Grace、最大12096コアと1TBのRAMを搭載したサーバー

NVIDIA HGX Grace:12,096コアの巨大なサーバー

いつものように、言われていない詳細が最も重要です。なぜなら、彼らは私たちの前にいるのに会社が見せたくないデータを明らかにするからです。 HGX Graceタイプのサーバーは、この世界で記憶に残る最大の飛躍を表しています。

NVIDIA-HGX-Grace-y-HGX-Grace-Hopper

これらは、NVIDIA Grace Superchip CPU、つまり、に基づいてNVLinkC2Cを介してコヒーレントに接続されたXNUMXつのプロセッサを搭載します。 ARM V9 Neoverse AIおよびHPCインフラストラクチャ向けに設計されています。 したがって、NVIDIAがCPU-CPUモジュールと呼んでいるもので構成され、それを統合するPCBごとに少なくとも 144コア   最大5TBのLPDDR1Xメモリ ラックあたり、帯域幅は 1 TB /秒 .

すべての消費 500ワット 空気や水で冷やすことができます。 ここで最も印象的なのは、NVIDIAがラックあたり最大84ノードのサーバーを許可していることです。これはなんと素晴らしいことです。 12,096コア 合計で。 そもそもHGXグレースがDGXA1.5の100倍の速さであることを考えると、グリーンチームが生み出した獣はすでに想像できます。

HGXグレースホッパー:XNUMXつのPCB上のCPUとGPU

このタイプのサーバーは、NVIDIAのXNUMX番目のオプションに賭けます。 そして、ここにはXNUMXつのCPUはありませんが、CPUと GPU 同じ基板上にあり、NVLink C2Cによって再び通信して、で相互接続される高性能のコヒーレントメモリモデルを実現します。 900 GB / sの PCIe7バスより5.0倍高速です。

NVIDIA-GRACE

NVIDIAが作成したのは、会社のソフトウェアスタックのいずれかと連携できる究極のマルチタスクサーバーです。 HPC、AI、またはOmniverse 、それで多面的です。 従うスキームは、これらを使用してここで簡単です HGXグレースホッパー サーバー、それぞれが統合されます 4nm Grace CPUを搭載したホッパーGPU。それぞれに独自のメモリがあり、最初のGPUには 80GBのHBM3 二番目 512GBのLPDDR5X 利用可能。

これを合計帯域幅に追加すると、 3.5 TB /秒 総消費量 1000ワット ラックごとにあり、空気または水によって冷却される可能性があります。 NVIDIAはそれを保証します 42ノード ラックごとにHGXグレースホッパーにインストールできます。

サーバーの設計とポートフォリオ

メーカーが必要とする可能性のあるワークロードに応じてXNUMXつの特定の設計があり、これらXNUMXつのタイプの中で、それぞれがニーズに応じて構成およびカスタマイズできるため、さまざまなメリットと価格が残ります。

NVIDIA-GRACE-データセンター-サービス

  • NVIDIAHGXグレースホッパー AIトレーニング、推論、HPC用のシステムは、GraceHopperSuperchipとNVIDIABlueField-3で利用できます。
  • NVIDIAHGXグレース HPCおよびスーパーコンピューティング用のシステム:Grace CPU Superchip、BlueField-3、およびNVIDIAGPUを備えたCPUのみの設計を特徴としています。
  • NVIDIA OVX デジタルツインおよびコラボレーティブワークロード用のシステムは、Grace CPU Superchip、BlueField-3、およびNVIDIAを備えています。
  • NVIDIA CGX グラフィックスおよびクラウドゲーム用のシステムは、Grace Superchip CPU、BlueField-3、およびNVIDIAA16GPUを備えています。

予想通り、正式な発売からXNUMX年が経過しているため、価格はまだ明らかにされていません。したがって、この間にNVIDIAがコストを明らかにすることが予想されますが、これは確かに安くはありません。