Avrupa Birliği Parlamentosu bugün, yapay zekayı yönetmek üzere dünyanın ilk büyük düzenleyici temel kurallarını resmen onayladı. Avrupa Komisyonu’nun iç pazardan sorumlu üyesi Thierry Breton X’te yaptığı açıklamada “Avrupa artık yapay zeka alanında küresel standart belirleyici konumundadır” dedi. Avrupa Parlamentosu Başkanı Roberta Metsola, yasayı çığır açıcı olarak nitelendirirken yasanın temel hakları koruduğunu ve aynı zamanda inovasyonu engellemediğini söyledi. 2021 yılında doğan AB Yapay Zeka Yasası, teknolojiyi kabul edilemezden -ki bu teknolojinin yasaklanacağı anlamına geliyor- yüksek, orta ve düşük tehlikeye kadar çeşitli risk kategorilerine ayırıyor. Düzenlemenin, son kontrollerden geçtikten ve Avrupa Konseyi’nden onay aldıktan sonra Mayıs ayında yürürlüğe girmesi bekleniyor.
Bir süre önce Birlik, ABD’li devleri dizginlemek için dönüm noktası niteliğindeki rekabet mevzuatını yürürlüğe koymuştu. Dijital Piyasalar Yasası uyarınca AB, büyük teknoloji şirketlerinin rekabete aykırı uygulamalarını engelleyebilme veya platformlarını açmaya zorlama yetkisine sahip olmuştu.
AB Yapay Zeka Yasası, yürürlüğe girdiğinde ülkelerin yasaklanmış AI sistemlerini yasaklamak için altı ayı, sohbet robotları gibi “genel amaçlı AI sistemlerine” karşı kuralları uygulamak için 12 ayı ve yasanın “yüksek riskli” olarak belirlediği AI sistemleri için 36 aya kadar süresi olacak.
Hangi yapay zekalar yasaklanacak?
- Hassas özellikleri kullanan biyometrik kategorizasyon sistemleri (örneğin siyasi, dini, felsefi inançlar, cinsel yönelim, ırk);
- Yüz tanıma veritabanları oluşturmak için internetten veya CCTV görüntülerinden yüz görüntülerinin hedeflenmeden kazınması;
- İşyerinde ve eğitim kurumlarında duygu tanıma;
- Sosyal davranışa veya kişisel özelliklere dayalı sosyal puanlama;
- İnsan davranışlarını manipüle ederek özgür iradelerini engelleyen AI sistemleri;
- İnsanların (yaşları, engellilikleri, sosyal veya ekonomik durumları nedeniyle) zayıflıklarını istismar etmek için kullanılan AI uygulamaları yasaklandı.
Hangi şartlara uyulacak ve cezalar neler?
Kurallara uyulmaması, ihlale ve şirketin büyüklüğüne bağlı olarak 35 milyon avro veya küresel cironun %7‘si ila 7,5 milyon avro veya cironun %1,5’i arasında değişen para cezalarına yol açabilecek. Yapay Zeka Yasası potansiyel olarak ağır para cezalarını açık kaynaklı geliştiricilere, araştırmacılara ve değer zincirinin daha aşağısında çalışan şirketlere uygulamayacak.
Yeni kurallar, hassas özelliklere dayalı biyometrik kategorizasyon sistemleri ve yüz tanıma veritabanları oluşturmak için internetten veya CCTV görüntülerinden yüz görüntülerinin hedeflenmeden kazınması dahil olmak üzere vatandaşların haklarını tehdit eden belirli AI uygulamalarını yasaklıyor. İşyerinde ve okullarda duygu tanıma, sosyal puanlama, öngörücü polislik ve insan davranışını manipüle eden veya güvenlik açıklarını istismar eden yapay zekalar da yasaklanacak. AB Yapay Zeka Yasası’nın kuralları ve katılı ilgili yapay zeka sistemine bağlı olacak. Yani, risk ne kadar yüksekse kurallar da o kadar katı olacak.
Yüksek riskli yapay zeka kullanım örnekleri arasında kritik altyapı, eğitim ve mesleki eğitim, istihdam, temel özel ve kamu hizmetleri (örneğin sağlık hizmetleri, bankacılık), kolluk kuvvetlerindeki belirli sistemler, göç ve sınır yönetimi, adalet ve demokratik süreçler (örneğin seçimleri etkileme) yer alıyor. Bu tür sistemlerin riskleri değerlendirmesi ve azaltması, kullanım kayıtlarını tutması, şeffaf ve doğru olması ve insan gözetimini garantiye alması şart koşuluyor. Vatandaşlar, yapay zeka sistemleri hakkında şikayette bulunma ve açıklama alma hakkına da sahip olacak. ChatGPT gibi genel amaçlı yapay zeka sistemleri ve bunların dayandığı büyük dil modelleri (GPT-4 gibi) AB telif hakkı yasasına uygunluk ve eğitim için kullanılan içeriğin ayrıntılı özetlerinin yayınlanması dahil olmak üzere belirli şeffaflık gereksinimlerini karşılamak zorunda olacak. Sistemik risk oluşturabilecek daha güçlü modeller için de ek gereklilikler (risk azaltması, raporlama gibi) sağlanacak. Bununla birlikte yapay veya manipüle edilmiş görüntü, ses veya video içeriklerinin (deepfake gibi) açıkça etiketlenmesi gerekecek.
Genel olarak AB Yapay Zeka Yasası’nın tam anlamıyla etkin olması 2025 yılını bulacak. Yasanın aynı zamanda bu alanda öncü şirketlere (Meta, Amazon, Adobe, Google, Nvidia ve OpenAI gibi) sahip olan ABD’yi de harekete geçirmesi bekleniyor. ABD halen kendi yapay zeka yasasına son şekli vermiş değil.
Son olarak yasa, mevcut modelleri veya uygulamaları geriye dönük olarak düzenlemiyor ancak OpenAI’ın GPT’sinin, Meta’nın Llama’sının veya Google’ın Gemini’sinin gelecekteki sürümlerinin AB tarafından belirlenen şeffaflık gereksinimlerini dikkate alması gerekecek.