Bir süredir grafik kartları, yalnızca ekranımızda gerçekçi grafikler oluşturmanın ötesine geçmekle kalmayıp, aynı zamanda yapay zekanın yükselişini de destekleyecek şekilde, gittikçe daha fazla yetenek ekliyor. Bu, aşağıdakiler gibi otomatik görüntülerin oluşturulması için İnternet üzerinden hizmetlerin oluşturulmasına izin verdi: DALL-E veya diğer hizmetler gibi SohbetGPT. Ancak, Donanıma dayalı bir yapay zeka hizmeti oluşturabilmenin maliyeti nedir?
Yapay zeka alanında daha alınacak çok yolumuz olmasına rağmen, bir dizi anahtar kelime veya kelime öbeği yerleştirerek metinde bir hikaye oluşturabilen veya bunu başaramazsa, az ya da çok doğru olabilen bir görüntü. Ve bu teknolojinin sahip olduğu başarısızlık düzeyine rağmen, birçok insan bundan büyüleniyor, ancak bir karmaşıklık düzeyi gerektiğinin ve en pahalı bilgisayarlarla bir araya getirebileceğiniz en güçlü bilgisayarda bile taklit etmenin imkansız olduğunun farkında değiller. şu anda bulabileceğiniz bileşenler.
ChatGPT veya Dall-E donanımının maliyeti nedir?
Eh, binlerce avro, hatta onlarca avro, çünkü işlerini yapmak için kullandıkları veri miktarı ve bunu yapmak için gereken güç miktarı, onlarca ve hatta yüzlerce grafik kartı yapılandırması gerektiriyor. Yalnızca kullanıcının etkileşime girdiği çıkarım algoritmasından yanıtlar üretmek için değil, aynı zamanda yapay zekayı eğitmek, yani değerleri öğrenmek ve kendi sonuçlarını çıkarmak için.
Bu durumların çoğunda kullanılan donanım, NVIDIA DGX SüperPOD , NVIDIA tarafından oluşturulmuş, yüzlerce grafik kartından oluşan bir sunucu, ancak oyunlar için değil, yüksek performanslı bilgi işlem için kullanılanlar. Örneğin, bir NVIDIA H100'ün fiyatının bize toplam 5,000 Euro'ya mal olabileceğini düşünün ve hatta beş haneli rakamlara çıkan modellerimiz var, bu, ayakta duran bir kullanıcının i9 ile bile bilgisayarına harcayacağından çok daha fazla. en yeni nesil ve bugün bir RTX 4090.
Ve yüksek, şey orada bitmiyor. Veri hacmi, bir grafik kartına sığmayacak kadar fazladır ve birkaçını kullanmak gerekir. Örneğin, ChatGPT, sunucu başına minimum 8 Euro'luk bir maliyetle bu türden 40,000 grafik kartından oluşan ekipler gerektirir. Ve görüntüleri işleyen ve daha karmaşık olan Dall-E hakkında konuşursak, o zaman maliyet birkaç düzine fırlayabilir. Dolayısıyla, yerel düzeyde böyle bir şeye sahip olmak için hala uzun zamanımız var ve bunun için, ev bilgisayarımızda bu kapasitede bir şeye sahip olmak için koca bir on yıl beklememiz gerekecek.
Bellek, bunu başarmak için en büyük darboğazdır
Tüm bunlar, tıpkı sahip olduğu bilgi ve birikimden sonuçlar çıkaran insan beyninde olduğu gibi, yapay zeka algoritmasının sonuçlara varmak için ihtiyaç duyduğu bilgi miktarından kaynaklanmaktadır. Bu nedenle, işinizi yapmak için temel olarak internet arama verilerini saklamanız gerekecektir. Bu çok büyük ve son derece pahalı altyapı kullanımını zorluyor.
Ek olarak, tamamen işlevsel değiller, sadece ChatGPT'nin belirli sorulara yanıt olarak verdiği belirli sapmaları veya en kötü kabuslara layık çizimleri görmeniz gerekiyor ve Dall-E'nin bazen bize gösterdiği ve nasıl olduğunu bilmediğimiz hiçbir anlam ifade etmiyor. böyle bir sonuca varabilirdi. Bazılarının merak uyandırdığı ve çerçevelemeye değer olduğu kabul edilmeliyse de, kendilerine sorulan ve gösterdikleri konusunda bu kadar yüksek bir hata payına sahip olmamaları için daha uzun yıllar var.
