Nvidia, yapay zeka (AI) ve yüksek performanslı bilgi işlem (HPC) için kendi Arm tabanlı CPU ve Hopper tabanlı GPU’ya sahip Grace Hopper GH200 Superchip‘ini bir süre önce duyurdu. Nvidia H200, önceki H100’e çokça benzese de yeni HBM3e bellekler ile büyük fark yakalıyor. Firma bu donanımının yanında aynı zamanda JUPITER adlı süper bilgisayarın da duyurusunu gerçekleştirdi. JUPITER, Avrupa için oldukça önemli olacak.
Avrupa’nın ilk ExaFLOPS süper bilgisayarı
Almanya’daki Forschungszentrum Jülich tesisinde barındırılan Avrupa’nın ilk ExaFLOPS süper bilgisayarı JUPITER, Nvidia’nın Grace Hopper GH200 Superchip’leri üzerinde inşa edildi. Makine hem simülasyonlar hem de yapay zeka iş yükleri için kullanılabiliyor, bu da onu günümüzde kurulu süper bilgisayarların büyük çoğunluğundan ayırıyor. Ayrıca Nvidia, GH200’ün dünya çapında 40 süper bilgisayara güç verdiğini ve bunların birleşik performansının yaklaşık 200 ‘AI’ ExaFLOPS olduğunu söyledi.
Jupiter süper bilgisayarı, Quantum-2 InfiniBand ağı kullanılarak birbirine bağlanan ve Eviden’in BullSequana XH3000 sıvı soğutma teknolojisi kullanılarak soğutulan toplam 2,3 TB HBM3E belleğe sahip yaklaşık 24.000 GH200 yongası ile çalışıyor. Makine, iklim ve hava durumu modelleme, malzeme bilimi, ilaç keşfi, endüstri mühendisliği ve kuantum hesaplama gibi simülasyonlar için 1 ExaFLOPS FP64 performansı sunuyor. Buna ek olarak makine, büyük dil modellerinin ve benzer iş yüklerinin eğitimi için 90 ExaFLOPS yapay zeka performansı sağlayabiliyor. Tüm bunlar Nvidia’nın Earth-2, BioNeMo, Clara, cuQuantum, Modulus ve Omniverse gibi yazılım çözümleri tarafından desteklenecek. Jupiter süper bilgisayarındaki her bir düğüm, 288 Arm Neoverse çekirdeği ve AI ile HPC iş yükleri için dört adet H200 GPU içeriyor ve 16 PetaFLOPS’luk olağanüstü bir AI performansı sunuyor. GH200 superchipleri Nvidia’nın NVLink bağlantısı kullanılarak birbirine bağlanıyor, ancak Nvidia bu ara bağlantının toplam bant genişliğini açıklamadı.
Jupiter olağanüstü bir sistem olsa da – günün sonunda bu Avrupa’nın ilk ExaFLOPS makinesi – GH200 tabanlı tek süper bilgisayar değil. Özellikle Bristol Üniversitesi, 141GB HBM3E’ye sahip 5.000’den fazla GH200 ile İngiltere’nin en güçlüsü olmayı hedefleyen bir süper bilgisayar inşa ediyor. Nvidia’nın Grace Hopper GH 200’ü Dell, HPE ve Lenovo gibi şirketler tarafından dünya çapında inşa edilen 40’tan fazla süper bilgisayarda kullanılacak. Bu sistemlerin birleşik performansı yaklaşık 200 AI ExaFLOPS olacak.