この NVIDIA グラフィックス カードの消費電力が RTX 4090 の XNUMX 倍少ないのはなぜですか?

最近では、 NVIDIA は、AD4070 チップをベースにした RTX 104 Ti のバリエーションを発表しました。その消費量は、ゲーミング バージョンよりもはるかに低く、70 W ではなく 285 W です。このモデルは、最新の GTC で発表されました。 RTX 4000 SFF、 しかし、重要な問題は、両方のグラフィックス カードが同じものを使用しているのに、なぜこのようなパワーの違いがあるのか​​ということです。 GPU?

多くの人が NVIDIA のプロフェッショナル グラフィックス カードを見たことがあるでしょう。XNUMX つのことは、それらがゲーム用のものよりもはるかに薄く、そのデザインがはるかにエレガントで美しいということです。 これは、ゲーム用に販売されているモデルよりも消費電力がはるかに低いためです。 ただし、まったく同じハードウェアについて話しているわけではありません。

この NVIDIA グラフィックス カードの消費電力が RTX 4090 の XNUMX 分の XNUMX である理由

RTX 4000 SFF、TDP わずか 70 W のグラフィックス カード

ゲームをプレイするように設計されていないグラフィックス カードを扱っています。実際には、ワークステーションまたはサーバーで 24 日 7 時間、週 XNUMX 日、中断することなく実行されるように設計されているため、継続的な演習は許可されません。スピードクライミングの。 通常、これらのグラフィックス カードのいくつかは同じシステムに接続され、次のようなタスクを実行します。

  • 映画やシリーズの 3D シーンのレンダリング。
  • 推論には、ChatGPT、Stable Diffusion、Dall-E などのディープ ラーニング アプリケーション。
  • ストリーミング映画やシリーズのビデオ トランスコーディング用。

これらのグラフィックス カードには通常、NVIDIA 独自の NVLink ポートがあり、システムごとに XNUMX つではなく複数のカードが使用され、作業が均等に共有されるため、作業を同期できます。 負荷が少なく、途切れることなく作業できるのは、何ですか。

RTX 4000 SFF NVIDIA

これらの種類のグラフィックス カードが存在するのはなぜですか?

ゲームは複数のグラフィックス カードを使用するように設計されていませんが、他の多くのアプリケーションは設計されています。 ゲーマーの場合、TDP が 70 W のグラフィックス カードを XNUMX 枚持っていても、最初の XNUMX 枚以上を使用できないため、役に立ちません。 しかし、他のアプリケーションでは、ワットあたりのパフォーマンスに関してはそうです。それらすべてのパワーを追加できれば、それがワークステーションで得られるものです.

RTX 4000 SFF が持っていない唯一のアプリケーションは、パフォーマンスが低いゲームを除いて、科学計算と人工知能の学習です。 その場合、NVIDIA の H100 チップの方がはるかに優れていますが、価格がはるかに高く、特定のアプリケーションでは必要ありません。

低消費の秘密、技術仕様

RTX 4000 SFF の消費電力が非常に少ない理由を理解するには、すべての鍵がそこにあるため、その技術的特性を調べる必要があります。

  • 持っているという事実のように 160 ビット GDDR6 構成 、192ビットの代わりに。
  • その 帯域幅は 320 GB/秒 、つまり、16 Gbps でメモリを使用することを意味します。これは、GDDR6 で実現できます。
    • 同じチップをベースにした RTX 4070 Ti は、502.4 GB/秒の GDDR6X メモリを使用します。
  • ただし、RTX 4000 SFF Ada のメモリ量は 20 GB、 これは、XNUMX つのメモリ チップを使用できるクラムシェル モードを使用し、データ バスを共有しながら容量を増やしているためです。
    • メモリはエラー訂正をサポートしています。
  • これは、6144 個の「CUDA」ドライブの構成であるため、48 個のフルまたは SM コアを備えています。 これは、RTX 60 Ti の 4070 SM 未満です。 したがって、残りの仕様は次のように変換されます。
    • 6144 CUDA コア。
    • 192 個の Tensor コア。
    • 48個のRTコア。

現在、そのパワーは 19.2 ビット浮動小数点で 32 TFLOPS であり、RTX 3070 よりも低く、RTX 4070 Ti の半分の数値であり、それがこのグラフィックス カードの秘密です。 RTX 4000 SFF は、クロック速度がはるかに低いため、70 W しか消費しません。 . 技術的には、グラフィックス カードの形をしたラップトップの GPU と見なすことができ、消費量が少ないため、途切れることなく動作することができます。