Yapay zeka, beklentilerin zirvesinde
Garter’a göre üretken yapay zeka (ChatGPT, Midjourney, Bard vb.) şişirilmiş beklentilerin zirvesine daha yeni ulaşmış durumda. Bu, teknoloji endüstrisinin yapay zekanın çığır açıcı olacağı ve yakında her yerde bulunacağı yönündeki tahminleriyle örtüşüyor. Bu abartı, istihdam, yanlış bilgilendirme, politika vb. üzerindeki etkisi hakkında çok fazla endişeye ve ayrıca insanlık için varoluşsal bir risk hakkında bir dizi endişeli tahminlere yol açtı, açmaya da devam ediyor.
Yapay zeka ile çevre ne alaka diyenler için kısaca olayı özetleyelim. Bilindiği üzere yapay zeka, şaşırtıcı miktarlarda hesaplama gücü gerektiriyor. Bu hesaplama gücü işlemciler ve grafik birimleriyle karşılanıyor. Bu donanımlar sıcak çalıştığı için güçlü bir soğutmaya ihtiyaç duyuyor. Ve tüm bunlar muazzam bir oranda elektrik tüketiyor. Bu elektrik tüketimi de günümüz dünyasında büyük ölçekte CO2 emisyonu anlamına geliyor.
Çevreye etki oldukça büyük
Teknoloji dünyası yapay zekayı, Barbie dünyasındaymış gibi gösteriyor olsa da bazıları gerçekleri görebiliyor. Örneğin 2019’da yapılan bir çalışmada, GPT-2 gibi erken dönem büyük dil modellerinin (LLM) eğitiminin karbon ayak izi yaklaşık 300.000 kg CO2 emisyonu olarak hesaplandı. Bu, ABD ve Çin arasındaki gidiş-dönüş 125 uçuşa eşdeğer.
Günümüzdeki güncel modellerin büyüklüğü ise GPT-2 yani 2019 ile karşılaştırılamayacak seviyede. Bunu da hemen örneklendirelim. 2019’daki GPT-2 modeli, 1,5 milyar parametreye sahip ki bu da selefi GPT1’deki parametre sayısının yaklaşık on katına tekabül ediyor. Bu yıl çıkan GPT-4’te ise 1.76 trilyon parametre olduğu belirtiliyor. Dolayısıyla aradaki büyüklük farkın binlerle ifade ediliyor.
Bu etkileşime “çıkarım” aşaması deniyor. ChatGPT’ye “Merhaba, nasılsın?” diye sorduğunuzda bu sorgu, uzaktaki bir sunucu çiftliğinde anında bir bilgi işlem patlamasını tetikliyor. Bunun karbon ayak izi nedir? Çıkarım aşamasının ayak izini tahmin etmeye yönelik ilk sistematik girişim geçen ay yayınlandı. Araştırmacılar, göreve özel (yani tek bir görevi yerine getiren ince ayarlı modeller) ve genel amaçlı modelleri (yani ChatGPT, Claude, Llama vb. gibi birden fazla görev için eğitilmiş olanlar) kapsayan çeşitli makine öğrenme sistemi kategorilerinin (toplam 88) devam eden çıkarım maliyetini karşılaştırdı.
Şaşırtıcı bir şekilde, yapay zeka modellerini eğitmek, çıkarım için kullanmaktan çok daha fazla karbon yoğun olmaya devam ediyor. Araştırmacılar, karbon maliyetlerinin onları eğitmenin çevresel etkisine eşit olması için kaç çıkarıma ihtiyaç duyulacağını da tahmin etmeye çalıştılar. GPT gibi büyük modellerden biri söz konusu olduğunda, 204,5 milyon çıkarım etkileşimi gerekecek ve bu noktada yapay zekanın karbon ayak izi iki katına çıkacak
204 milyon çıkarım inanılmaz bir büyüklük gibi geliyor değil mi? Bu nereden baktığınıza göre değişir, internet dünyası için bu küçük bir sayı. Sonuçta, ChatGPT piyasaya sürüldükten sonraki ilk haftasında 1 milyon kullanıcı kazandı ve şu anda yaklaşık 100 milyon aktif kullanıcısı var. ChatGPT’nin bu yıl boyunca 3,6 milyar sorgu aldığını da belirtelim.