Tüketici Elektroniği Fuarı'nda (CES) Nvidia CEO'su Jensen Huang, şirketin yapay zeka donanımında gelinen son nokta olarak tanımladığı yeni Rubin bilgi işlem mimarisini resmen tanıttı. Yeni mimari halihazırda üretimde ve yılın ikinci yarısında daha da artması bekleniyor.
YAPAY ZEKA HESAPLAMALARINDA ÇIĞIR AÇACAK
Huang, dinleyicilere hitaben yaptığı konuşmada, "Vera Rubin, yapay zeka için gereken hesaplama miktarının hızla arttığı temel zorluğun üstesinden gelmek için tasarlandı. Bugün sizlere Vera Rubin'in tam üretimde olduğunu söyleyebilirim." dedi. 2024 yılında ilk kez duyurulan Rubin mimarisi, Nvidia'yı dünyanın en değerli şirketi haline getiren amansız donanım geliştirme döngüsünün en son ürünüdür. Rubin mimarisi, Blackwell mimarisinin yerini alacak ve bu da sırasıyla Hopper ve Lovelace mimarilerinin yerini almıştı. Rubin çiplerinin Anthropic, OpenAI ve Amazon Web Services ile olan yüksek profilli Nvidia ortaklıkları dahil olmak üzere hemen hemen her büyük bulut sağlayıcısı tarafından kullanılması planlanıyor. Rubin sistemleri ayrıca HPE'nin Blue Lion süper bilgisayarında ve Lawrence Berkeley Ulusal Laboratuvarı'ndaki gelecek Doudna süper bilgisayarında da kullanılacak.
ALTILI ÇİP TASARIMI VE GELİŞMİŞ PERFORMANS
Gözlemci astronom Vera Florence Cooper Rubin'in adını taşıyan Rubin mimarisi, birlikte kullanılmak üzere tasarlanmış altı ayrı çipten oluşuyor. Rubin GPU'su merkezde yer alıyor ancak mimari, sırasıyla Bluefield ve NVLink sistemlerindeki yeni iyileştirmelerle depolama ve ara bağlantıdaki artan darboğazları da ele alıyor. Mimari ayrıca ajanlık muhakemesi için tasarlanmış yeni bir Vera CPU'yu da içeriyor. Yeni depolamanın faydalarını açıklayan Nvidia'nın Yapay Zeka Altyapı Çözümleri Kıdemli Direktörü Dion Harris, modern yapay zeka sistemlerinin artan önbellekle ilgili bellek taleplerine dikkat çekti. Harris, "Ajanlık yapay zeka veya uzun vadeli görevler gibi yeni iş akışı türlerini etkinleştirmeye başladığınızda, bu sizin KV önbelleğiniz üzerinde büyük bir baskı ve gereksinim yaratır." diyerek yapay zeka modelleri tarafından girdileri yoğunlaştırmak için kullanılan bir bellek sistemine atıfta bulundu. "Bu nedenle, hesaplama cihazına harici olarak bağlanan yeni bir depolama katmanı tanıttık, bu da depolama havuzunuzu çok daha verimli bir şekilde ölçeklendirmenize olanak tanır." dedi. Yeni mimari aynı zamanda hız ve güç verimliliğinde önemli bir ilerleme temsil ediyor. Nvidia'nın testlerine göre, Rubin mimarisi model eğitimi görevlerinde önceki Blackwell mimarisinden üç buçuk kat, çıkarım görevlerinde ise beş kat daha hızlı çalışacak ve 50 petaflops'a kadar ulaşacak. Yeni platform ayrıca watt başına sekiz kat daha fazla çıkarım hesaplamasını destekleyecek. Rubin'in yeni yetenekleri, hem yapay zeka laboratuvarlarının hem de bulut sağlayıcılarının Nvidia çipleri ve bunları çalıştırmak için gereken tesisler için yarıştığı yoğun bir yapay zeka altyapısı rekabetinin ortasında geliyor.
