Pokud jste si přečetli úplné specifikace některých nejnovějších Intel CPU, budete viděli jsem nějaké tajemné zkratky: GNA. Ve skutečnosti je to malý procesor nebo spíše koprocesor, který je zodpovědný za urychlení určitých Hluboké učení algoritmy, a proto velmi souvisí s implementací umělé inteligence. Vysvětlíme, z čeho se tento koprocesor skládá a jaké jsou jeho funkce.
Procesory zaměřené na zrychlení určitých každodenních úkolů s využitím modelů vyvinutých pomocí umělé inteligence se v posledních letech objevují ve všech konfiguracích a velikostech a není divu, že Intel nechtěl zůstat pozadu.
Co je Intel GNA?
Intel GNA je koprocesor, který mají integrovány některé procesory Intel, a který slouží k urychlení provádění některých odvozovacích algoritmů. To znamená, že mnozí z vás již budou vědět, že proto stojíme před procesorem neurálního typu, který byl v tomto případě poprvé představen v Intel Ice Lake a jeho zkratka znamená Gaussův neurální urychlovač ( GNA ) a integrace do vlastního procesoru funguje při velmi nízké spotřebě.
Je určen k použití pro úkoly, jako je přepis zvuku v reálném čase nebo odstranění šumu z fotografií, které jsou typické pro AI, ale nevyžadují vysoce výkonný akcelerátor.
Nedávno byl vylepšen v Tiger Lake, kde byla implementována verze 2.0 GNA, která má být také použita pro potlačení okolního šumu a snížení šumu na fotografiích. Díky tomu můžeme odvodit, že GNA je navrženo pro kolaborativní obchodní prostředí, zejména v prostředí založeném na práci z domova, kde je velmi důležitý přepis textu a komunikace bez jakéhokoli šumu.
Jak to funguje?
Intel GNA není prováděcí jednotkou Procesor (CPU) jednáme tedy s procesorem v jiném a slouží k urychlení určitých úkolů pro jeho hosta. To znamená, že musí být explicitně vyvolána v kódu prostřednictvím rozhraní API, v tomto případě vyhrazeného rozhraní Intel API.
Implementace algoritmu nebo modelu Deep Learning, který má provést Intel GNA během fáze odvození, se provádí ve třech fázích:
- Začneme trénováním algoritmu pomocí neuronové sítě s plovoucí desetinnou čárkou s rámcem svobodné volby.
- Model, který je výsledkem školení, se importuje pomocí nástroje Intel Deep Learning SDK Deployment Tool, který umožňuje import libovolného modelu vygenerovaného nejslavnějšími a nejpoužívanějšími rámci Deep Learning.
- Spojuje s Intel Deep Learning SDK Inference Engine nebo nativními knihovnami GNA, z nichž jsou dvě: jedna pro Intel Quark a druhá pro Intel Atom a Intel Core.
Za účelem vyvolání GNA to, co CPU dělá, je ponechání inferenčního modelu v paměti a GNA je vyvolána, aby přijala uvedený algoritmus a provedla jej paralelně s prací procesoru, jehož je hostitelem. Je také třeba vzít v úvahu, že se jedná o jednotku s nízkou spotřebou, takže nemůžeme očekávat stejné výsledky jako při použití vysoce výkonné neurální sítě nebo FPGA nakonfigurovaného jako takového, ale je to dost dobré pro každodenní úkoly .
Intel GNA mimo procesory Intel
Ačkoli je GNA sám o sobě procesorem, který je integrován jako součást procesorů x86, lze jej v případě potřeby nasadit mimo CPU, nejznámějším případem je Vývojová sada Intel Speech Enabling , který se používá zejména pro odvození hlasových příkazů pro aplikace pro Amazon Alexa zařízení.