Již nějakou dobu grafické karty přidávají další a další možnosti, a to až do bodu, kdy nejenže překračují generování realistické grafiky na naší obrazovce, ale také podporují vzestup umělé inteligence. To umožnilo vytvoření služeb přes internet pro generování automatických obrázků jako např DALL-E nebo jiné služby jako např ChatGPT. Ale, jaké jsou náklady na vytvoření služby AI založené na hardwaru?
Navzdory tomu, že v oblasti umělé inteligence máme před sebou ještě dlouhou cestu, vzhled služeb, ve kterých umí umístěním řady klíčových slov či frází generovat příběh v textu, nebo v opačném případě, obrázek, který může být více či méně správný. A i přes míru selhání, kterou tato technologie má, je jí mnoho lidí fascinováno, ale nevědí, že je potřeba určitá míra složitosti a že ji nelze napodobit ani na tom nejvýkonnějším počítači, který můžete sestavit s tím nejdražším komponenty, které můžete najít právě teď.
Kolik stojí hardware ChatGPT nebo Dall-E?
No, mnoho tisíc eur, ne-li desítky eur, protože množství dat, které zpracovávají, aby vykonávali svou práci, a množství energie potřebné k tomu, aby to zvládli, vyžaduje konfigurace desítek a dokonce stovek grafických karet. Nejen za účelem generování odpovědí z inferenčního algoritmu, se kterým uživatel interaguje, ale také za účelem trénování AI, tedy naučit se hodnoty a vyvodit vlastní závěry.
Hardware používaný v mnoha z těchto případů je NVIDIA DGX SuperPOD , server postavený společností NVIDIA sestávající ze stovek grafických karet, nikoli však pro hraní her, ale těch, které se používají pro vysoce výkonné počítače. Představte si například, že cena NVIDIA H100 nás může stát celkem 5,000 9 eur a máme dokonce i pěticiferné modely, což je mnohem více, než kolik stálý uživatel utratí za svůj počítač i s i4090. nejnovější generace a RTX XNUMX dnes.
A vysoko, že tím věc nekončí. Objem dat je takový, že se nevejde na jednu grafickou kartu a je potřeba jich využít více. Například ChatGPT vyžaduje týmy s 8 grafickými kartami tohoto typu, náklady minimálně 40,000 XNUMX eur na server. A pokud se budeme bavit o Dall-E, který zpracovává obrázky a je složitější, pak cena může vystřelit až o několik desítek. Máme tedy ještě dlouhou dobu na to, abychom něco takového měli na domácí úrovni, a na to si budeme muset počkat celou dekádu, abychom měli něco z této kapacity v našem domácím PC.
Paměť je největším úzkým hrdlem, jak toho dosáhnout
To vše je způsobeno množstvím informací, které algoritmus umělé inteligence potřebuje k vyvození závěrů, stejně jako se to děje s lidským mozkem, který vyvozuje závěry z informací a znalostí, které má. Budete tedy muset ukládat data vyhledávání na internetu jako základ pro svou práci. Což je obrovské a nutí to používat extrémně drahou infrastrukturu.
Navíc nejsou úplně funkční, stačí vidět určité aberace, které ChatGPT dává v reakci na určité otázky nebo kresby hodné těch nejhorších nočních můr a bez jakéhokoli smyslu, který nám Dall-E občas ukazuje a že nevíme jak mohl k takovému závěru dojít. I když je třeba uznat, že někteří jsou dokonce zvědaví a hodní rámování, ale zbývá ještě mnoho let, než nebudou mít tak vysokou míru chyb, pokud jde o to, na co se ptají a co ukazují.
