Intel, makine öğrenmesi (ML) ve yapay zeka (AI) alanında projeler yürüten kullanıcıların CPU’lar ve GPU’lar üzerinde çalışabilecek iş yükleri arasındaki açığı kapatmak amacıyla geliştirdiği 4. Nesil Xeon Scalable CPU’ları piyasaya sürdü. Popülerliği giderek artan yapay zekanın yakın gelecekte tüm iş akışında kullanılacağı düşünülüyor. ChatGPT gibi yapay zeka uygulamalarının etkisi ve yetenekleri giderek artıyor.
Intel, GPU’ları besleyen yeni nesil Xeon CPU’ları ile önümüzdeki dönemdeki yapay zeka stratejilerinin temelini oluşturma ve uygulamaların uçtan uca performansına odaklanarak yapay zekânın her uygulamaya nüfuzunu hızlandırma hedefi taşıyor. Xeon işlemciler, uçtaki daha küçük veri setlerinin analizinden büyük veri göllerine kadar, bu sistemleri eğitmek için oldukça maliyetli olabilen harici hızlandırıcı sistem satın alma ihtiyacını ortadan kaldırıyor.
Intel Xeon CPU Max modelleri HBM teknolojisi sayesinde yüksek performans sunuyor
4. Nesil Xeon Scalable CPU ailesinin Intel Xeon CPU Max modelleri, yüksek bant genişliği (HBM) teknolojisine sahip ilk ve tek x86 tabanlı işlemci lerolarak dikkat çekiyor. Bellek bant genişliğinin kısıtlı olduğu yüksek performanslı bilişim ve yapay zekâ iş yüklerinde önemli bir işlem performansı sunuyor. HBM’li 4. Nesil Xeon CPU Max serisi, 3. nesile kıyasla 3,7 kata kadar ve HBM’siz 4. nesile kıyasla 2,3 kata kadar daha yüksek işlem performansı veriyor.
Tüm setkrörlerde dijitalleşmesinin artmasıyla birlikte daha büyük verilerle çalışılıyor ve işlem talebi artıyor. Statista’nın araştırmasına göre 2025 yılına kadar dünya genelindeki veri üretiminin 180 zettabaytı aşacağı tahmin ediliyor. Böylesine bir ortamda gitgide önemi artan bulut ortamları, yeni iş modellerini dağıtmak için kullanılıyor. İşletmelerin kurulma ve ölçeklendirilmesinde devrimsel bir dönüşüm yaratan bulut önemli bir fırsat olarak öne çıkıyor. Bulut ve yapay zeka teknolojileri; veri merkezlerinde, ağ genelinde ve uçta, hem işletmelerin hem de tüketicilerin verilere erişme ve verileri kullanma şeklini değiştiriyor. Eşi benzeri görülmemiş bir işlem talebi yaratıyor. Yapay zekanın benimsenebilmesi için tek bir taşınabilir yazılım geliştirme ortamına ve her türlü analitik tekniği uygulayabilecek bir platforma gereksinim artıyor. Intel Xeon CPU Max serisi, yüksek tek iş parçacıklı performansı sayesinde bu ihtiyacı karşılıyor.
Nvidia CEO’su Jensen Huang, Sapphire Rapids (Intel Xeon CPU Max serisi) hakkında şu ifadeleri kullanıyor:
“Nvidia Hopper için CPU olarak Sapphire Rapids’i seçtim, çünkü Sapphire Rapids mükemmel tek iş parçacıklı performansa sahip.”
4. nesil Xeon Scalable işlemcideki dikkat çeken yeniliklerden biri de Advanced Matrix Extensions’ın (AMX) entegrasyonu olarak öne çıkıyor. Intel Advanced Matrix Extensions (Intel AMX) özelliğine sahip 4. Nesil Intel Xeon Scalable işlemciler, 10 kat daha yüksek çıkarım ve eğitim performansı (hem eğitim hem de çıkarımda, AVX-512’ye kıyasla teorik olarak 8 kat ve 3. nesle kıyasla 10 kata kadar verim) sunuyor. Günümüzde birçok kuruluş, istenen performans seviyesine ulaşmak ve hizmet seviyesi anlaşmalarının gereğini yerine getirmek için çıkarım ihtiyaçlarını ayrı GPU’lara aktarıyor. Intel AMX, Intel üçüncü nesil Xeon işlemcilere kıyasla yapay zekâ çıkarım hızları açısından 10 kat performans artışı sağlayabilir. Yeni Intel işlemci, ayrıca veri hazırlama ve eğitim için 10 kata kadar hız artışı da sağlıyor. 4. Nesil işlemciler ayrıca Stability AI için HuggingFace performansını da içeriyor.