Framsteg inom datorarkitektur ger inte bara förbättringar i processorerna, utan också i de minnen som används och många gånger skapas nya typer av hårdvara. En av dem är Fabric Attached Memory, en typ av RAM som är en del av det nya paradigmet för bearbetning i minnet. Vad är det och vilka egenskaper har denna typ av minne?
Innan du börjar måste det klargöras att du inte kommer att hitta Fabric Attached Memory på någon PC på marknaden när du skriver denna artikel, även om vi pratar om en HEDT-arbetsstation. Anledningen? Enkelt, FAM är en typ av minne som är relaterat till High Performance Computing eller HPC. Syftet med utvecklingen av denna typ av minne? Att överskrida beräkningskraften för ExaFLOP och vid denna tidpunkt systemets minnesarkitektur är mycket viktigt.
Vad är Fabric Attached Memory?
Vi förstår som Fabric Attached Memory (FAM) eller FAM en typ av minne som kan nås av en eller flera processorer, som kan vara av samma typ eller av en annan typ. Hur skiljer det sig från konventionella minnen? I det faktum att den kan nås via ett nätverksgränssnitt och eftersom sammankopplingsinfrastrukturerna utvecklas till s.k. nätverks på ett chip kan man säga att detta minne som är kopplat till gränssnittet är nyckeln till att accelerera processer i framtidens CPU:er och GPU:er.
När vi pratar om RAM tänker vi vanligtvis på minne externt till processorn, som är monterat på separata chips och nås via ett gränssnitt. Under denna definition kan vi tro att vi kan definiera 3DIC-kretsarna med vertikalt anslutet minne som FAM, men FAM, som namnet indikerar, är ett minne som är direkt kopplat till det vi kallar "Fabric". Och vad menar vi med det namnet? Vad är Northbridge, som är det element som kommunicerar de olika processorerna med varandra och dessa med RAM-minnet.
Tja, Fabric Attached Memory, är i Northbridge och därför före RAM, därav dess namn.
The Scratchpad Memory Concept
När vi talar om Scratchpad-minne hänvisar vi till en alternativ RAM-brunn, skild från vad konventionellt minne är vad gäller dess adressering, så detta betyder att varje system med ett Scratchpad-minne kräver två datainsamlingssystem. . Naturligtvis har vi glömt att säga att Scratchpad Memory vanligtvis inte finns utanför processorn, utan inuti processorn. Vilket har flera fördelar:
- Program som körs inuti Scratchpad Memory går snabbare på grund av det låga avståndet till processorn och med lägre strömförbrukning.
- På grund av dess närhet till processorn används inte ett cachesystem för att komma åt nämnda minne.
Den här typen av minne har använts i decennier och idag kan vi hitta det i shader-enheterna på GPU:er, så de är ingen nyhet. Hur är det relaterat till Fabric Attached Memory? Jo, det faktum att FAM är en typ av Scratchpad-minne, men där användningen av ett nätverksgränssnitt för att kommunicera gör det helt annorlunda i sin åtkomst.
Fabric Attached Memory är en nivå före hierarkin med avseende på RAM, men dess åtkomst görs som den görs i en NoC där de olika elementen fungerar som ett sammankopplat nätverk med NoC i den centrala delen och varje element har din router . Det vill säga, för att komma åt FAM är det bara nödvändigt att ringa dess nätverksadress och detta är något som alla delar av systemet kan göra.
Minnet är den största flaskhalsen för bearbetning
I det ideala systemet skulle minnet ha tillräckligt med svarstid så att bearbetningen av instruktionerna skedde med högsta möjliga hastighet. Tyvärr har utvecklingen av minne inte hållit jämna steg med utvecklingen av processorer och har blivit en börda som har gjort det nödvändigt att hitta lösningar på dessa problem.
Det finns två anledningar till att minnet inte kan nå hastigheten, men den främsta är att vi inte kan lägga stora mängder minne inuti en processor och därför måste vi lägga det utanför den på ett annat chip. Den andra besvaras med följande fråga: vad händer med de elektriska signalerna när ledningsavståndet ökas? Din energiförbrukning ökar. Och det är där Fabric Attached Memory tar alla sina fördelar, eftersom det är ett minne nära processorenheterna kan det nå höga bandbredder utan att kräva hög förbrukning.
Men Fabric Attached Memory är inte bara nyckeln för att kommunicera element inom samma processor, utan olika processorer med varandra, till exempel, om vi har flera SoCs som behöver kommunicera regelbundet, skriver de vanligtvis data i RAM-minnet som delas av alla dem så att det senare återvinns. från samma RAM-minne av resten av processorerna för att fortsätta med arbetet. Med Fabric Attached Memory är det inte nödvändigt för processorerna att komma åt RAM eftersom data kan skrivas i Fabric Attached Memory som är beläget på en nivå i hierarkin mellan den sista nivån cachen för de olika processorerna och gränssnittet. till RAM-minnet för var och en av dem.
FAM är en del av framtiden i PC
I början av artikeln gjorde vi påståendet som rubricerar detta avsnitt, men varje påstående är fortfarande ett svar på en fråga som svarar på en anledning. Och detta är ingen mindre än i konventionella datorer skulle mängden FAM som krävs för att användas i processorn vara begränsad. Så den bästa lösningen är ett chipletbaserat system där Northbridge är bortkopplad från resten av systemet, vilket är fallet i AMDRyzen 3000 och Ryzen 5000 processorer.
FAM:n måste till sin natur inom minneshierarkin ha mer kapacitet än den snabbaste cachen men mindre än RAM-minnet. Med Northbridge på ett separat chip är det möjligt att integrera Fabric Attached Memory i den, men på ett 2D-chip är det svårt att göra det. Å andra sidan är det ett 3D-chip som består av flera nivåer, med systemets Northbridge på en nivå och FAM-minnet på de andra. Tack vare detta accelereras en stor del av processerna och till och med trådar som exekverar processorerna parallellt och på ett koordinerat sätt, vilket undviker den enorma flaskhalsen som är förknippad med traditionellt RAM.
Det finns ett stort antal applikationer som har belastats i prestanda, inte på grund av bristande bearbetningshastighet, utan på grund av bristande minneshastighet. Att placera en minnesbrunn närmare processorn lindrar många av dessa problem och med språnget till chipletbaserade processorer där en enda processor delas upp i flera delar och användningen av nya förpackningssystem kommer att möjliggöra dess implementering i PC:n.