Da qualche tempo le schede grafiche aggiungono sempre più funzionalità, al punto non solo di andare oltre la generazione di grafica realistica sul nostro schermo, ma anche di supportare l'ascesa dell'intelligenza artificiale. Questo ha permesso la creazione di servizi via Internet per la generazione di immagini automatiche come DALL-E o altri servizi come ChatGPT. Ma, qual è il costo per poter creare un servizio di intelligenza artificiale basato sull'hardware?
Nonostante il fatto che abbiamo ancora molta strada da fare nel campo dell'intelligenza artificiale, la comparsa di servizi in cui, inserendo una serie di parole o frasi chiave, è in grado di generare una storia nel testo o, in mancanza, un'immagine che può essere più o meno corretta. E nonostante il livello di fallimenti che ha questa tecnologia, molte persone ne sono affascinate, ma non sono consapevoli che è necessario un livello di complessità e che è impossibile emulare anche sul computer più potente che puoi assemblare con il più costoso componenti che puoi trovare in questo momento.
Quanto costa l'hardware ChatGPT o Dall-E?
Ebbene, molte migliaia di euro, se non decine di euro, perché la quantità di dati che gestiscono per svolgere il proprio lavoro e la quantità di energia necessaria per farlo richiede configurazioni di decine e persino centinaia di schede grafiche. Non solo per generare le risposte dall'algoritmo di inferenza, che è ciò con cui l'utente interagisce, ma anche per addestrare l'IA, cioè per apprendere i valori e trarre le proprie conclusioni.
L'hardware utilizzato in molti di questi casi è il NVIDIA DGXSuperPOD , un server realizzato da NVIDIA composto da centinaia di schede grafiche, ma non per i giochi, ma quelle utilizzate per il calcolo ad alte prestazioni. Pensate, ad esempio, che il prezzo di una NVIDIA H100 può costarci complessivamente 5,000 euro e abbiamo anche modelli che arrivano a cinque cifre, questo è molto di più di quello che un utente in piedi spenderà per il suo computer, anche con un i9 ultima generazione e una RTX 4090 oggi.
E alto, che la cosa non finisce qui. Il volume di dati è tale da non stare su una scheda grafica ed è necessario utilizzarne diversi. Ad esempio, ChatGPT richiede team di 8 schede grafiche di questo tipo, un costo minimo di almeno 40,000 euro per server. E se parliamo di Dall-E, che gestisce le immagini ed è più complesso, allora il costo può salire alle stelle di diverse dozzine. Quindi abbiamo ancora molto tempo per avere qualcosa di simile a livello domestico e per questo dovremo aspettare un intero decennio per avere qualcosa di questa capacità nel nostro PC di casa.
La memoria è il più grande collo di bottiglia per raggiungerlo
Tutto ciò è dovuto alla quantità di informazioni che l'algoritmo di intelligenza artificiale richiede per trarre le sue conclusioni, proprio come accade con il cervello umano che trae conclusioni dalle informazioni e dalle conoscenze di cui dispone. Quindi dovrai archiviare i dati di ricerca su Internet come base per svolgere il tuo lavoro. Che è enorme e costringe all'uso di infrastrutture estremamente costose.
Inoltre non sono del tutto funzionanti, basta vedere certe aberrazioni che ChatGPT dà in risposta a certe domande o i disegni degni dei peggiori incubi e senza alcun senso che Dall-E a volte ci mostra e che non sappiamo come potrebbe giungere a una tale conclusione. Anche se bisogna riconoscere che alcuni sono anche curiosi e degni di essere inquadrati, ma mancano ancora molti anni prima che non abbiano un margine di errore così alto rispetto a ciò che viene loro chiesto e ciò che mostrano.
