Im modernen Computing werden Akronyme für fast alles verwendet, egal wer es ist. CPU, GPU, APU… und eines dieser Akronyme, das immer häufiger verwendet wird, ist IPU , was die Abkürzung für ist Nachrichtenverarbeitungseinheit oder Intelligenzverarbeitungseinheit. In diesem Artikel erklären wir Ihnen, was eine IPU ist und wofür sie gedacht ist, und erklären Ihnen, in welchen Szenarien sie verwendet wird.
Obwohl viele Namen durch die von dem betreffenden Produkt ausgeführte Funktion „vergeben“ werden, wählt letztendlich jeder, der einen neuen Gerätetyp herstellt, den angegebenen Namen, aber sobald dieser Name festgelegt ist und wann er verwendet wird als verallgemeinerte Form ist, wenn es wichtig wird. Im Fall der IPU haben wir es mit einem Produkt zu tun, das genau eines ist, das aufgrund seiner Funktion bereits einen Namen trägt, und obwohl Sie sicherlich bereits wissen, wohin die Aufnahmen gehen, wenn Sie wissen, was die Akronyme bedeuten, Wir werden in die Materie eintreten.
Was ist eine IPU und wie funktioniert sie?
Wie bereits erwähnt, ist IPU das Akronym für Intelligence Processing Unit oder Intelligence Processing Unit, das, wie der Name schon sagt, für künstliche Intelligenz und insbesondere für diesen Zweck entwickelt wurde. So wie eine GPU wie eine CPU ist, aber für Grafiken ausgelegt ist, ist eine IPU eine CPU für künstliche Intelligenz.
Somit ist eine IPU ein Prozessor, der für die parallele Verarbeitung ausgelegt ist (dh so ausgelegt ist, dass mehrere gleichzeitig arbeiten), um Systeme der künstlichen Intelligenz zu beschleunigen. Seit der ersten Generation von IPUs (Colossus) wurden zahlreiche Fortschritte in der Datenverarbeitung erzielt, und in der zweiten Generation konnte die Leistung um 800% gesteigert werden.
Die Entwickler gehen davon aus, dass eine IPU tatsächlich der komplexeste Prozessor ist, der bisher entwickelt wurde, viel mehr als die uns bekannten PC- oder Serverprozessoren.
Wie Sie in der obigen Abbildung sehen können, entspricht dies der Koloss MK2 GC200 IPU, jeder „Prozessor“ enthält insgesamt 1472 unabhängige IPUs mit jeweils einem Kern und einem eigenen dedizierten Speicher. In diesem Fall handelt es sich also um einen Prozessor mit 1472 Kernen, die insgesamt 8832 Parallelverarbeitungsthreads erzeugen können, oder Was gleich ist, jeder Kern hat sechs Verarbeitungsthreads, oder mit anderen Worten, jeder Kern kann sechs Befehle gleichzeitig ausführen.
Für jede IPU mit einer Bandbreite von nicht weniger als 900 TB / s sind 47.5 MB Speicher integriert. Außerdem wird die PCI-Express 4.0 x16-Schnittstelle verwendet, um diese überwältigende Bandbreite zu bewältigen.
Wofür sind IPUs?
All diese enormen Prozesskapazitäten sind offensichtlich so ausgelegt, wie wir es für Systeme der künstlichen Intelligenz gesagt haben, dh sie sind in bestimmte Systeme und für einen bestimmten Zweck integriert. So sehr, dass diese IPUs tatsächlich als Coprozessoren integriert sind, da sie nicht autonom arbeiten können (so wie eine GPU nicht als CPU fungieren kann, weil sie nicht über die erforderlichen Befehlssätze verfügt).
Und es ist so, dass diese Prozessoren ein Erweiterungskarten- oder Beschleunigerkartenformat haben und, wie bereits erwähnt, mit einem Port am verbunden sind Hauptplatine über einen PCI-Express 4.0 x16-Sockel.
Daher dient es genau dazu, Systeme der künstlichen Intelligenz mit dafür vorgesehenen Kernen zu beschleunigen, und im Moment sind sie für alles andere nutzlos. Wie Sie wissen, ist das gesamte Thema Deep Learning, Maschinelles Lernen und Künstliche Intelligenz nicht nur an der Tagesordnung, sondern nimmt zunehmend zu, sodass wir den Begriff IPU jedes Mal häufiger finden werden .