Fabric Attached Memory, memoria che non è RAM o cache nella CPU

Memoria attaccata al tessuto

I progressi nell'architettura dei computer non solo portano miglioramenti nei processori, ma anche nelle memorie utilizzate e molte volte vengono creati nuovi tipi di hardware. Uno di questi è Fabric Attached Memory, un tipo di RAM che fa parte del nuovo paradigma dell'elaborazione in memoria. Che cos'è e quali caratteristiche ha questo tipo di memoria?

Prima di iniziare bisogna chiarire che non troverete la Fabric Attached Memory su nessun PC in commercio nel momento in cui scriviamo questo articolo, anche se stiamo parlando di una workstation HEDT. La ragione? Semplice, FAM è un tipo di memoria correlato all'High Performance Computing o HPC. L'obiettivo dello sviluppo di questo tipo di memoria? Superare la potenza di calcolo dell'ExaFLOP ea questo punto l'architettura di memoria dei sistemi è molto importante.

Che cos'è la memoria collegata al tessuto?

Memoria attaccata al tessuto

Intendiamo come Fabric Attached Memory (FAM) o FAM un tipo di memoria a cui possono accedere uno o più processori, che possono essere dello stesso tipo o di tipo diverso. In cosa differisce dalle memorie convenzionali? Per il fatto che vi si può accedere tramite un'interfaccia di rete e poiché le infrastrutture di interconnessione si stanno evolvendo verso le cosiddette Network NetPoulSafe on a Chip, si può dire che questa memoria collegata all'interfaccia è la chiave per accelerare i processi nelle CPU e GPU del futuro.

Quando si parla di RAM, di solito si pensa alla memoria esterna al processore, che è montata su chip separati e vi si accede tramite un'interfaccia. Sotto questa definizione possiamo pensare di poter definire come FAM i circuiti 3DIC con memoria connessa verticalmente, ma la FAM, come indica il suo nome, è una memoria che è direttamente connessa a ciò che chiamiamo “Fabric”. E cosa intendiamo con quel nome? Cos'è il Northbridge, che è l'elemento che comunica tra loro i diversi processori e questi con la RAM.

Ebbene, la Fabric Attached Memory, è nel Northbridge e quindi prima della RAM, da cui il nome.

Il concetto di memoria per gli appunti

Microscopio cache

Quando si parla di Memoria Scratchpad ci si riferisce bene ad una RAM alternativa, separata da quella che è la memoria convenzionale per quanto riguarda il suo indirizzamento, quindi questo significa che ogni sistema con una Memoria Scratchpad richiede due sistemi di acquisizione dati. . Naturalmente, abbiamo dimenticato di dire che la memoria Scratchpad non si trova solitamente all'esterno del processore, ma all'interno del processore. Che ha una serie di vantaggi:

  • I programmi eseguiti all'interno della memoria Scratchpad vengono eseguiti più velocemente a causa della bassa distanza dal processore e con un consumo energetico inferiore.
  • A causa della sua vicinanza al processore, un sistema di cache non viene utilizzato per accedere a detta memoria.

Questo tipo di memoria è in uso da decenni e oggi lo troviamo nelle unità shader delle GPU, quindi non sono una novità. In che modo è correlato alla memoria collegata al tessuto? Bene, il fatto che il FAM sia un tipo di Scratchpad Memory, ma dove l'uso di un'interfaccia di rete per comunicare lo rende totalmente diverso nel suo accesso.

La Fabric Attached Memory è un livello antecedente alla gerarchia rispetto alla RAM, ma il suo accesso avviene come avviene in un NoC dove i diversi elementi funzionano come una rete interconnessa con il NoC nella parte centrale e ogni elemento ha il tuo router . Cioè, per accedere al FAM è sufficiente chiamare il suo indirizzo di rete e questo è qualcosa che tutti gli elementi del sistema possono fare.

La memoria è il più grande collo di bottiglia per l'elaborazione

Evoluzione cuello botella memoria

Nel sistema ideale, la memoria avrebbe un tempo di risposta sufficiente affinché l'elaborazione delle istruzioni avvenga alla massima velocità possibile. Sfortunatamente, l'evoluzione della memoria non ha tenuto il passo con l'evoluzione dei processori ed è diventata un peso che ha reso necessario trovare soluzioni a questi problemi.

Ci sono due ragioni per cui la memoria non può raggiungere la velocità, ma la principale è che non possiamo mettere grandi quantità di memoria all'interno di un processore e quindi dobbiamo metterla al di fuori di essa su un altro chip. Alla seconda si risponde con la seguente domanda: cosa succede ai segnali elettrici quando si aumenta la distanza di cablaggio? Il tuo consumo di energia aumenta. Ed è qui che la Fabric Attached Memory trae tutto il suo vantaggio, poiché essendo una memoria vicina alle unità di elaborazione può raggiungere larghezze di banda elevate senza richiedere alti consumi.

Multiprocessore a memoria attaccata al tessuto

Ma la Fabric Attached Memory non è solo la chiave per comunicare elementi all'interno dello stesso processore, ma processori diversi tra loro, ad esempio, se abbiamo più SoC che devono comunicare regolarmente, di solito scrivono i dati nella RAM condivisa da tutti loro in modo che sia poi recuperato. dalla stessa RAM dal resto dei processori per continuare con il lavoro. Con la Fabric Attached Memory, non è necessario che i processori accedano alla RAM poiché i dati possono essere scritti nella Fabric Attached Memory che si trova ad un livello della gerarchia tra la cache di ultimo livello dei diversi processori e l'interfaccia. alla RAM di ciascuno di essi.

Il FAM fa parte del futuro nel PC

CPU Chiplet CPU GPU AMD Intel

All'inizio dell'articolo abbiamo fatto l'affermazione che intitola questa sezione, ma ogni affermazione è pur sempre una risposta a una domanda che risponde a una ragione. E questo non è altro che nei PC convenzionali la quantità di FAM necessaria per essere utilizzata nel processore sarebbe limitata. Quindi la soluzione migliore è un sistema basato su chiplet in cui il Northbridge è disconnesso dal resto del sistema, come nel caso AMDCPU Ryzen 3000 e Ryzen 5000.

La FAM per sua natura all'interno della gerarchia di memoria deve avere più capacità della cache più veloce ma meno della memoria RAM. Con il Northbridge su un chip separato è possibile integrarvi la Fabric Attached Memory, ma su un chip 2D è difficile farlo. Si tratta invece di un chip 3D composto da più livelli, con il Northbridge del sistema su un livello e la memoria FAM sugli altri. Grazie a ciò, una buona parte dei processi e persino dei thread che eseguono i processori in parallelo e in maniera coordinata vengono accelerati, evitando così l'enorme collo di bottiglia associato alla RAM tradizionale.

C'è un gran numero di applicazioni che sono state gravate in termini di prestazioni, non a causa della mancanza di velocità di elaborazione, ma a causa della mancanza di velocità della memoria. Posizionare una memoria ben più vicino al processore allevia molti di questi problemi e con il salto verso i processori basati su chiplet dove un singolo processore è separato in più pezzi e l'uso di nuovi sistemi di confezionamento ne consentirà l'implementazione nel PC.