AMD, 6 Aralık tarihinde düzenleyeceği yapay zeka merkezli etkinliğinde MI300 kod adlı yeni nesil Instinct hızlandırıcı ailesini tam ayrıntılarıyla tanıtacak. Bu yeni GPU ve CPU hızlandırıcı ailesi, AMD’nin şu anda bir numaralı ve en önemli stratejik önceliği olan yapay zeka segmentinin öncü ürünü olacak ve nihayet sadece gelişmiş değil aynı zamanda sektördeki kritik yapay zeka ihtiyacını karşılamak için tasarlanmış bir ürün sunacak. TSMC’nin gelişmiş paketleme teknolojilerini kullanan bu seri aynı zamanda chiplet tabanlı olacak. AMD Instinct MI300X ve MI300A ise önümüzdeki ay tanıtılacak olan yapay zeka segmentinde en çok beklenen hızlandırıcılardan bazıları olacak. AMD Instinct MI300X, Nvidia’nın yapay zeka üstünlüğünü kırabilir
AMD Instinct MI300X, yapay zeka segmentinde NVIDIA’nın Hopper ve Intel’in Gaudi hızlandırıcılarını açıkça hedef aldığı için kesinlikle üstünde en çok durulacak çözüm olacak. CDNA 3 mimarisi üzerinde tasarlanan çip, 5nm ve 6nm IP’lerin bir karışımına ev sahipliği yapacak. Bu sayede toplamda 153 milyar transistör ortaya koyulacak.
Instinct MI300X, Infinity Fabric çözümünün üzerinde HBM3 belleklere ev sahipliği yapacak. CDNA 3 GPU mimarisine dayanan her bir GCD, 2560 çekirdeğe eşit olan toplam 40 hesaplama birimine sahip olacak. Toplamda sekiz hesaplama kalıbı (GCD) olacağından en nihayetinde toplam 320 hesaplama birimine veya 20.480 çekirdeğe bakıyoruz. Instinct MI300X, selefinden bellek tarafında da önemli ölçüde ayrılacak. MI250X’te 128 GB bellek bulunurken bu kapasite yüzde 50 artırılarak toplamda 192 GB seviyesine yükseltilecek. AMD, bu kapasiteye ulaşmak için MI300X’i 8 HBM3 yığınıyla donatıyor ve her bir yığın 24 GB kapasite sağlıyor. Bununla birlikte bellekler MI300X’e 5,2 TB/s’ye kadar bant genişliği ve 896 GB/s Infinity Fabric bant genişliği sağlayacak.
NVIDIA’nın yakında çıkacak olan H200 AI hızlandırıcısı 141 GB kapasite sunarken, Intel’in Gaudi 3’ü 144 GB kapasite sunacak. Büyük bellek havuzları, çoğunlukla belleğe bağlı olan büyük dil modelleri (LLM) için oldukça önemli. Karşılaştırmalar için:
- Instinct MI300X – 192 GB HBM3
- Gaudi 3 – 144 GB HBM3
- H200 – 141 GB HBM3e
- MI300A – 128 GB HBM3
- MI250X – 128 GB HBM2e
- H100 – 96 GB HBM3
- Gaudi 2 – 96 GB HBM2e
Güç tüketimi tarafında da AMD oldukça iyi görünüyor gibi. MD Instinct MI300X, Instinct MI250X’in 500W’ına göre %50 artışla 750W güç tüketimine sahip olacak. Nvidia’nın yeni H200 GPU’suna göre ise 50W daha fazla güç tüketecek.
AMD Instinct MI300A ile Exascale APU’lar geliyor
AMD uzunca bir süredir APU çözümleri üzerinde çalışıyor. Bireysel tarafta olmasa da kurumsal tarafta AMD’nin Exascale sınıfı bir APU ortaya koyması yıllardır beklendi. Instinct MI300A ile görünüşe göre bekleyiş bitecek. Instinct MI300A, TCO için optimize edilmiş bellek kapasiteleri ve Zen 4 çekirdeklerini kullanması dışında MI300X’e çok benziyor. Kardeşinde bulunan iki GCD kalıbı çıkartılarak yerine kendi ayrı önbellek ve çekirdek IP havuzlarını sunan üç Zen 4 CCD yerleştirilmiş durumda. CCD başına 8 çekirdek ve 16 iş parçacığı düşüyor, böylece aktif kalıpta toplam 24 çekirdek ve 48 iş parçacığı oluyor. Ayrıca 24 MB L2 önbellek (çekirdek başına 1 MB) ve ayrı bir önbellek havuzu (CCD başına 32 MB) bulunmakta. Diğer detaylar ise oldukça benzer.
Kısaca AMD Instinct MI300 hızlandırıcıları
- İlk entegre CPU+GPU paketi
- Exascale Süper Bilgisayar pazarını hedefliyor
- AMD MI300A (Tümleşik CPU + GPU)
- AMD MI300X (Yalnızca GPU)
- 153 milyar transistör
- 24 Zen 4 çekirdeğe kadar
- CDNA 3 GPU mimarisi
- 192 GB’a kadar HBM3 Bellek
- 5nm + 6nm süreci
Instinct MI300 hızlandırıcıları AMD için büyük bir adım olacak ancak rakipler de boş durmuyor. Nvidia, H200 ile birlikte bellek tarafında HBM3e çözümlerini kullanmaya başladı ancak mevcut H100’ün üzerine çok fazla şey koymadı. Ancak Nvidia, 2024 için Blackwell GPU’ları hazırlıyor ve bu aile büyük yükseltmelerle geliyor olacak. 6 Aralık’ta AMD, Instinct MI300 ailesini tüm detaylarıyla açıklayacak.