De ceva timp, plăcile grafice adaugă din ce în ce mai multe capacități, până la punctul de a nu doar să depășească generarea de grafică realistă pe ecranul nostru, ci și să susțină ascensiunea inteligenței artificiale. Acest lucru a permis crearea de servicii prin Internet pentru generarea de imagini automate precum DALĂ sau alte servicii precum ChatGPT. Dar, care este costul pentru a putea crea un serviciu AI bazat pe hardware?
În ciuda faptului că mai avem mult de parcurs în domeniul inteligenței artificiale, apariția unor servicii în care, prin plasarea unei serii de cuvinte sau fraze cheie, este capabilă să genereze o poveste în text sau, în lipsă, o imagine care poate fi mai mult sau mai puțin corectă. Și în ciuda nivelului de eșec pe care îl are această tehnologie, mulți oameni sunt fascinați de ea, dar nu sunt conștienți că este nevoie de un nivel de complexitate și că este imposibil de emulat chiar și pe cel mai puternic computer pe care îl poți asambla cu cel mai scump. componente pe care le puteți găsi chiar acum.
Cât costă hardware-ul ChatGPT sau Dall-E?
Ei bine, multe mii de euro, dacă nu zeci de euro, pentru că cantitatea de date pe care le manipulează pentru a-și face treaba și cantitatea de putere necesară pentru a o face necesită configurații de zeci și chiar sute de plăci grafice. Nu doar pentru a genera răspunsurile din algoritmul de inferență, cu care utilizatorul interacționează, ci și pentru a antrena AI, adică pentru a învăța valorile și a trage propriile concluzii.
Hardware-ul folosit în multe dintre aceste cazuri este NVIDIA DGX SuperPOD , un server construit de NVIDIA alcătuit din sute de plăci grafice, dar nu pentru gaming, ci cele folosite pentru calculul de înaltă performanță. Gândiți-vă, de exemplu, că prețul unui NVIDIA H100 ne poate costa în total 5,000 de euro și avem chiar și modele care merg la cinci cifre, asta este mult mai mult decât va cheltui un utilizator în picioare pe computerul său, chiar și cu un i9. ultima generație și un RTX 4090 astăzi.
Și sus, că treaba nu se termină aici. Volumul de date este de așa natură încât nu se potrivește pe o singură placă grafică și este necesar să folosiți mai multe dintre ele. De exemplu, ChatGPT necesită echipe de 8 plăci grafice de acest tip, un cost de minim 40,000 de euro pe server. Și dacă vorbim despre Dall-E, care se ocupă de imagini și este mai complex, atunci costul poate crește vertiginos cu câteva zeci. Așa că mai avem mult timp să avem așa ceva la nivel intern și pentru asta va trebui să așteptăm un deceniu întreg pentru a avea ceva din această capacitate în PC-ul nostru de acasă.
Memoria este cel mai mare blocaj pentru a o atinge
Toate acestea se datorează cantității de informații pe care algoritmul de inteligență artificială o cere pentru a-și trage concluziile, așa cum se întâmplă cu creierul uman care trage concluzii din informațiile și cunoștințele pe care le are. Deci, va trebui să stocați datele de căutare pe internet ca bază pentru a vă face treaba. Ceea ce este uriaș și obligă la utilizarea unei infrastructuri extrem de costisitoare.
În plus, nu sunt în întregime funcționale, trebuie doar să vezi anumite aberații pe care ChatGPT le dă ca răspuns la anumite întrebări sau desene demne de cele mai urâte coșmaruri și fără niciun sens pe care ni le arată uneori Dall-E și pe care nu știm cum. ar putea ajunge la o asemenea concluzie. Deși trebuie să recunoaștem că unii sunt chiar curioși și demni de încadrat, dar mai sunt mulți ani până când nu au o marjă de eroare atât de mare în ceea ce privește ceea ce li se cere și ce arată.
