ファブリック接続メモリ、RAMまたはCPUのキャッシュではないメモリ

コンピュータアーキテクチャの進歩は、プロセッサだけでなく、使用されるメモリにも改善をもたらし、多くの場合、新しいタイプのハードウェアが作成されます。それらのXNUMXつは、ファブリック接続メモリです。 RAM これは、インメモリ処理の新しいパラダイムの一部です。このタイプのメモリにはどのような特徴がありますか？

始める前に、この記事の執筆時点では、HEDTワークステーションについて話している場合でも、市販のPCにはファブリック接続メモリがないことを明確にする必要があります。理由？シンプルなFAMは、ハイパフォーマンスコンピューティングまたはHPCに関連するメモリの一種です。このタイプのメモリの開発の目的は？ ExaFLOPの計算能力を超え、この時点でシステムのメモリアーキテクチャは非常に重要です。

ファブリック接続メモリとは何ですか？

ファブリック接続メモリ（FAM）またはFAMは、XNUMXつまたは複数のプロセッサからアクセスできるメモリの一種であり、同じタイプでも異なるタイプでもかまいません。従来の思い出とどう違うの？ネットワークインターフェイスを介してアクセスできるという事実と、相互接続インフラストラクチャがいわゆるに進化しているためネットワークオンチップでは、インターフェイスに接続されたこのメモリが、将来のCPUおよびGPUのプロセスを加速するための鍵であると言えます。

RAMについて話すとき、私たちは通常、プロセッサの外部にあるメモリについて考えます。このメモリは、別々のチップにマウントされ、インターフェイスを介してアクセスされます。この定義では、垂直に接続されたメモリを備えた3DIC回路をFAMとして定義できると考えることができますが、FAMは、その名前が示すように、「ファブリック」と呼ばれるものに直接接続されたメモリです。そして、その名前はどういう意味ですか？ノースブリッジとは何ですか。ノースブリッジは、さまざまなプロセッサを相互に通信し、これらをRAMと通信する要素です。

ファブリック接続メモリはノースブリッジにあるため、RAMの前にあるため、その名前が付けられています。

スクラッチパッドメモリの概念

スクラッチパッドメモリについて話すとき、アドレス指定に関する限り、コンベンショナルメモリとは別の代替RAMをよく参照します。したがって、スクラッチパッドメモリを備えたすべてのシステムにはXNUMXつのデータキャプチャシステムが必要です。。もちろん、スクラッチパッドメモリは通常、プロセッサの外部ではなく、プロセッサの内部にあると言うのを忘れています。これには多くの利点があります。

スクラッチパッドメモリ内で実行されるプログラムは、プロセッサまでの距離が短く、消費電力が少ないため、実行速度が速くなります。
プロセッサに近接しているため、キャッシュシステムを使用して上記のメモリにアクセスすることはありません。

このタイプのメモリは何十年も使用されており、今日ではGPUのシェーダーユニットで見つけることができるため、目新しいものではありません。ファブリック接続メモリとどのように関連していますか？ FAMがスクラッチパッドメモリの一種であるという事実ですが、通信にネットワークインターフェイスを使用すると、アクセスがまったく異なります。

ファブリック接続メモリはRAMに関して階層の前のレベルですが、そのアクセスはNoCで行われるのと同じように行われます。この場合、さまざまな要素が相互接続されたネットワークとして機能し、中央部分にNoCがあり、各要素にルーターがあります。。つまり、FAMにアクセスするには、そのネットワークアドレスを呼び出すだけで済み、これはシステムのすべての要素で実行できることです。

メモリは処理の最大のボトルネックです

理想的なシステムでは、メモリには十分な応答時間があり、命令の処理が可能な限り最高の速度で実行されます。残念ながら、メモリの進化はプロセッサの進化に追いついておらず、これらの問題の解決策を見つける必要がある負担になっています。

メモリが速度に到達できない理由はXNUMXつありますが、主な理由は、プロセッサ内に大量のメモリを配置できないため、プロセッサの外部の別のチップに配置する必要があるためです。 XNUMXつ目は、次の質問で答えられます。配線距離が長くなると、電気信号はどうなりますか？あなたのエネルギー消費は増加します。そして、それはファブリック接続メモリがすべての利点を利用するところです。なぜなら、処理ユニットに近いメモリであるため、高い消費を必要とせずに高い帯域幅に到達できるからです。

ただし、ファブリック接続メモリは、同じプロセッサ内の要素を通信するための鍵であるだけでなく、異なるプロセッサを相互に通信するための鍵でもあります。たとえば、定期的に通信する必要のあるSoCが複数ある場合、通常、すべてのプロセッサが共有するRAMにデータを書き込みます。後で回復できるようにそれらを使用します。残りのプロセッサによって同じRAMから作業を続行します。ファブリック接続メモリでは、異なるプロセッサの最終レベルのキャッシュとインターフェイスの間の階層のXNUMXつのレベルにあるファブリック接続メモリにデータを書き込むことができるため、プロセッサがRAMにアクセスする必要はありません。それらのそれぞれのRAMに。

FAMはPCの未来の一部です

記事の冒頭で、このセクションにタイトルを付けるステートメントを作成しましたが、すべてのステートメントは、理由に答える質問への回答です。そして、これは従来のPCに他なりませんが、プロセッサで使用する必要のあるFAMの量は制限されます。したがって、最良の解決策は、ノースブリッジがシステムの他の部分から切断されているチップレットベースのシステムです。 AMDのRyzen3000およびRyzen5000CPU。

FAMは、その性質上、メモリ階層内で最速のキャッシュよりも多くの容量を備えている必要がありますが、RAMメモリよりも少ない必要があります。ノースブリッジを別のチップに搭載すると、ファブリック接続メモリを統合することができますが、2Dチップでは統合が困難です。一方、これは複数のレベルで構成される3Dチップであり、システムのノースブリッジがXNUMXつのレベルにあり、FAMメモリが他のレベルにあります。このおかげで、プロセッサを並列かつ協調的に実行するプロセスの大部分とスレッドでさえも高速化され、従来のRAMに関連する大きなボトルネックを回避できます。

処理速度の不足ではなく、メモリ速度の不足が原因で、パフォーマンスに負担がかかっているアプリケーションが多数あります。メモリをプロセッサのかなり近くに配置すると、これらの問題の多くが軽減され、単一のプロセッサが複数の部分に分割され、新しいパッケージングシステムを使用することでPCに実装できるチップレットベースのプロセッサに飛躍します。