Avrupa Birliği Yapay Zekâ Yasası [EU AI Act]¹, dünyada yapay zekânın kullanımını yasal çerçevede düzenleyen ilk metin olarak göze çarpıyor. AB Komisyonu’nun iki yıldır hazırlayıp çeşitli değişikliklerden geçirdiği taslak, Avrupa Parlamentosu’nda 14 Haziran 2023 tarihinde kabul edildi. Nihai bir kanun metnine dönüşmeden ve uygulamaya geçmeden sıradaki takvimdeyse “trilogue” adı verilen Avrupa Komisyonu, Konsey ve Parlamento arasındaki üçlü görüşmelerin yapılması var. Bu sürecin de 2023 yılı sonuna kadar tamamlanması bekleniyor. Bu yazıda, şu an kabul edilen taslak ve bu yasanın düzenleyeceği konuları ele alacağım².

Yapay Zekânın Tanımı

Şu an devam eden “trilogue” aşamasında tartışılıp karara bağlanacak bazı konular var. Yasa tasarısı, en kısa ve öz hâliyle, yapay zekânın bir tanımını içeriyor. Aynı zamanda, yapay zekânın kullanılabileceği alanları risk temelli bir sınıflandırmaya tabi tutuyor. Avrupa Komisyonu, Avrupa Konseyi ve Avrupa Parlamentosu’nun taslakları arasında farklar var. Mutlaka tartışılacak konulardan ilki yapay zekânın tanımı olsa gerek. Aslında böyle bir tanım zor değil, bilgisayar bilimleri konusunda çalışan biri kolaylıkla yapay zekâyı tanımlayabilir. Ancak, hukuki bir metindeki tanım olabildiğince tarafsız ve kapsayıcı olmalıdır; yani önümüzdeki yıllarda yeni bir yapay zekâ yöntemi geliştirilse bu yöntemler de bu tanımlamaya dahil olmalı ki yapılan hukuki düzenleme anlamsız kalmasın.

Komisyon tarafından önerilen metnin 3. maddesinde tanım şu şekilde:

“Yapay zekâ sistemi (YZ sistemi), Ek I’de listelenen teknik ve yaklaşımlardan bir veya daha fazlası ile geliştirilen ve hedef olarak tanımlı bir grup insan için, etkileşimde bulundukları ortamları etkileyen içerik, tahmin, öneri veya karar gibi çıktılar üretebilen yazılım anlamına gelir.”³

14 Haziran’da Komisyon’da onaylanan metinde ise şöyle bir değişiklikle kabul edilmiş:

“Yapay zekâ sistemi (YZ sistemi), değişen seviyelerde özerklikle çalışmak üzere tasarlanmış ve açık [explicit] veya örtük [implicit] hedefler için fiziksel veya sanal ortamları etkileyen tahmin, öneri veya karar gibi çıktılar üretebilen makine tabanlı bir sistem anlamına gelir.”

Sadece basit bir tanımdaki değişiklik bile konunun hukuki kapsamının ne denli önemli olduğunu gösteriyor. Buradaki kapsayıcı tanımlamalar ileride kimsenin bypass edemeyeceği bir düzenleme sağlar.

Kullanıldığı alana, eğitildikleri veri setlerine ve yöntemlere bağlı olarak YZ sistemlerinin farklı sorunlu yanları var. Bu sistemler, çoğu zaman insan emeği gerektiren bir işi yapmak için kullanıldığında ciddi bir işgücü tasarruf da sağlıyor. Ticari faydayı göz önüne alınca da şirketler bu sorunlu yanları görmezden geliyor. Özellikle de günümüzde derin öğrenmeye dayanan YZ sistemleri karmaşık, opak, sonuçları kolay öngörülemez, belli seviyelerde otonomiye (özerkliğe) sahip ve belirli bir eğitim setiyle büyük veri üzerinde eğitiliyor.

Örneğin, bilgisayarlı görü [computer vision] alanında nesne algılama ve tanımada kullanılan derin öğrenme modelleri milyonlarca parametre içeriyor. Modellerin karmaşıklığı ve öğrenme yöntemleri nedeniyle, kararlarını açıklamak pek kolay değil. Bir modelin açıklanabilir ve yorumlanabilir olması, şu an için güncel bir araştırma konusu ve çözülmüş bir sorun değil. Her zaman modelin ana görevindeki performansını da artırmıyor. Bunun yanı sıra bir fotoğraftaki insan gözünün anlayamayacağı kadar küçük birkaç pikselin değerini değiştirmek, nesne tanıma modellerinin tamamen farklı kararlar vermesine sebep olabiliyor.

YZ sistemleri farklı ölçülerde otonomi içeriyor. Otomobillerin böyle, büyük veri üzerinde eğitilmiş YZ sistemleri sayesinde tamamen otonom olduğunu düşünelim. Bir aracın hareketinin YZ sistemine dayanması, aracın içinde, diğer araçlarda ya da yaya olan dışarıdaki insanların hayatını etkiler. Sadece son kullanıcı değil, YZ modelleri üretimde de kullanılıyor. Endüstriyel robot kolları bu duruma örnek olarak verilebilir. İşbirliğine dayalı robotlar [collaborative robot, cobot], üretimde işçilerle birlikte kullanılabiliyor. Aynı üretim bandında, robot tarafından daha iyi yapılan işlerle insan uzmanlığı gerektiren görevler birlikte yapılıyor. Durum böyle olunca, YZ sistemine dayalı bir robotun davranışları tahmin edilebilir ve güvenli olmalıdır.

ABD’de mahkemelerin şartlı tahliye ya da ceza koşullarında kullanılan yeniden suç işlenmesini [recidivism] tahmin eden YZ sistemleri var. Buna çok benzeyen başka bir konu da kredi puanlaması. Dünyanın birçok yerinde bankalar, YZ sistemlerini kullanarak başvuran bir kişinin kişisel bilgileriniyle bir kredi skoru hesaplıyor ve kredi verip vermeme kararını buna göre veriyor. Bu ve benzeri uygulama alanlarında YZ sistemleri, eğitildikleri veriden ya da öğrenme algoritmalarının kendinden kaynaklanan önyargılar içeriyor.

Tüm bu boyutları göz önüne alarak düşününce, kullanım alanlarına göre YZ sistemlerine risk temelli bir yaklaşımın gerektiği görülüyor. Yapay Zekâ Yasası tam da bu boşluğu doldurmaya amaçlıyor. AB içinde ya da üçüncü bir ülkede olan ancak AB pazarına hizmet sağlayanlara yönelik, mevcut ve gelecekte geliştirilecek olan YZ sistemlerinin geliştirilmesi, piyasaya sürülmesi ve kullanımı için farklı gereklilikler ve yükümlülükleri risk temelinde düzenliyor.

Risk Temelli Yaklaşım

Yapay Zekâ Yasası, YZ sistemlerini şu dört kategoride ele alıyor:

• Kabul edilemez risk içeren sistemler

• Yüksek risk içeren sistemler

• Özel şeffaflık yükümlülükleri olan YZ sistemleri

• Minimum risk içeren veya hiç risk içermeyen sistemler

Şimdi en yüksek riskten başlayarak bu uygulama alanlarını ele alalım. Kabul edilemez risk içerenler, Çin’de uygulanan sosyal skorlama sistemi gibi, tüm vatandaşları gözetim altında tutan, otomatik olarak davranışlarını takip eden ve sisteme olan sadakatlerini puanlayan YZ sistemleridir. Böylece vatandaşları puanlarına göre mükafatlandırıyor ya da cezalandırıyorlar. Hatta bunun için video gözetleme sistemlerini de kullanıyorlar. Kamu yetkilileri tarafından ya da onlar adına kullanılan sosyal puanlama sistemleri, kabul edilemez riskteki sistemlerin bir örneği. Bunun dışında, zararlı manipülatif bilinçaltı teknikler kullanan, belirli hassas grupları (fiziksel ya da zihinsel engellilik gibi) istismar eden, sınırlı vakalar hariç kolluk kuvvetleri tarafından kamuya açık alanlarda kullanılan gerçek zamanlı biyometrik tanıma sistemleri de kabul edilemez risk içeren grupta ele alınıyor.

Yüksek risk içeren grupta, insan güvenliğini veya temel insan hakları üzerinde olumsuz etki yaratan YZ sistemleri ve uygulama alanları iki alt grupta ele alınıyor (Madde 7 ve Ek III). İlk grupta oyuncaklar, havacılık, arabalar, tıbbi cihazlar, asansörler gibi AB sağlık ve güvenlik uyum mevzuatı kapsamına giren sistemler yer alıyor. İkinci grup ise aşağıda belirtilen sekiz alanda kullanılan sistemleri kapsıyor:

• Gerçek kişilerin biyometrik tanımlanması ve sınıflandırılması

• Kritik altyapının yönetimi ve işletilmesi

• Eğitim ve mesleki eğitim

• İstihdam, işçi yönetimi ve serbest mesleğe erişim

• Temel özel hizmetlere ve kamu hizmetlerine erişim, bunlardan yararlanma ve fayda sağlama

• Kolluk kuvvetleri

• Göç, iltica ve sınır kontrol yönetimi

• Adalet ve demokratik süreçlerin idaresi

Ek III’te bu sekiz başlığın her birine dair birkaç örnek verilmiş. Örneğin gerçek kişilerin işe alınması veya seçilmesi eğitim ve mesleki eğitim başlığı altında ele alınan bir örnek. YZ sistemi eğer adaletsizlik ve önyargı içeriyorsa, başvuruların taranması veya filtrelenmesi, mülakatlar veya testler sırasında adayların değerlendirilmesi için kullanılabiliyor. Bu uygulama alanı ayrımcılığa sebep olma riskli taşıyor. Bir başka örnek vermek gerekirse, kolluk kuvvetleri tarafından gerçek bir kişinin duygusal durumunu tespit etmek için kullanılan yalan makinesi [polygraph] cihazları.

Özel şeffaflık yükümlülükleri olan ve kısıtlı risk içeren YZ sistemleri ise insanlarla etkileşime giren sistemler. Örneğin sohbet robotları, duygu tanıma sistemleri, biyometrik sınıflandırma sistemleri ve görüntü, ses veya video içeriği üreten veya manipüle eden YZ sistemleri [Deepfakes], sınırlı şeffaflık yükümlülüklerine tabi olacak.

Buraya kadar ele alınan sistemlerden çok daha fazla, düşük veya minimum risk sunan YZ sistemi var. Bunlar ek yasal yükümlülüğe uymaksızın AB’de geliştirilebilir ve kullanılabilir. Ancak, yine de, yüksek riskli YZ sistemleri için zorunlu gereklilikleri gönüllü olarak uygulamaya teşvik eden kurallar oluşturulması öngörülüyor.

Kapsam Dışı Alanlar: Askeri Sahada Yapay Zekâ

Sadece askeri amaçla geliştirilen veya kullanılan YZ sistemleri de var. Böyle sistemler bazen üçüncü bir ülkedeki kamu makamları, uluslararası kuruluşlar veya kolluk kuvvetleri ve adli işbirliği için uluslararası anlaşmalar çerçevesinde geliştirilebilir ve kullanilabilir. Yapay Zekâ Yasası bu alanları kapsam dışı tutuyor⁴.

AB bir savunma projesi değil. Kuruluşu ve karar mekanizmaları itibarıyla, askeri konular pek de AB’nin odağında değil. Bu bir parça, askeri teknolojiler için kullanılan YZ sistemlerinin kapsam dışı bırakılmasını açıklayabilir. Buna rağmen, daha önce Oppenheimer örneğinden hareketle ele aldığım araştırmaların çift kullanımı sorunu burada da söz konusu. Yani askeri bir maksatla geliştirilen bir YZ sistemi eğer yüksek risk içeren sivil bir uygulama alanında kullanılabiliyorsa yasa kapsamında değerlendirilebilir. Buradaki muhtemel sorun, çoğu savunma kuruluşunun sivil dijital politikaları sıkı bir şekilde takip edememesi. Askeri teknolojilerde YZ sistemlerinin kapsam dışında bırakılması önemli bir eksik. AB üyesi ülkeler arasında sadece Fransa’nın savunma teknolojilerini desteklemede yapay zekâ kullanımıyla ilgili bir strateji planı var.

AB’nin Yapay Zekâ Yasası, YZ sistemlerini risk temelinde düzenliyor. 2023 sonuna kadar üçlü görüşmelerde tüm bu uygulama alanlarındaki görüş farklılıkları masaya yatırılacak ve yasa nihai hâlini alacak. Yazıda bahsettiğimiz yapay zekâ tanımı ve örneklerin ötesinde, birbirinden farklı alanlardaki YZ sistemlerine ait tüm ayrıntılar düzenlemede yer alacak. Parlementoda kabul edilen metin, önceki taslaklardan farklı olarak her ülkede piyasa gözetimini yapacak ulusal bir otoritenin de varlığını öngörüyor. Bunun yanında, market gözetimini yapan AB nezdinde ayrı bir gözetim otoritesi de olacak. Nasıl farklı elektronik ya da mekanik sistemler, örneğin otomobiller için belli kalite standartları varsa, bu süreç YZ sistemlerine ait standartların içerdikleri riske göre belirlenmesini sağlayacak⁵. Oluşturulması öngörülen ulusal ve uluslararası AB kurumlarına ek olarak kâr amacı gütmeyen ve yüksek risk içeren YZ sistemlerini denetleyen kuruluşlar, dijital hukuk danışmanlıkları gibi aktörlerin de olduğu bir ekosistem oluşacak. Zaten yasanın ana motivasyonunun YZ sistemlerinin insan ve toplum için zararlı olabilecek yönlerini düzenlemek olduğunu düşününce, bu incelemede bağımsız aktörlerin de bulunması kaçınılmaz.

Bu yazıda kısaca, AB’nin Yapay Zekâ Yasası’nın kapsamından ve devam eden süreçten bahsettik. Önümüzdeki aylarda bu gelişmeleri hep birlikte takip edeceğiz.

{fold içindeki görsel: AI logosundan detay, kaynak: AB Komisyonu}

1. Proposal for a Regulation of the European Parliament and of the Council Laying Down Harmonised Rules on Artificial Intelligence (Artificial Intelligence Act) and Amending Certain Union Legislative Acts.

2. Türkiye, AB üyesi olmadığı için bu gelişme bizi doğrudan ilgilendirmiyor gibi düşünülebilir. Bu, iki sebepten dolayı pek doğru değil. İlki, yapay zekâya dayalı teknolojilerin olası risklerini kontrol altına almayı amaçlayan böyle bir düzenlemenin içeriği yakından takip edilmeli ki Türkiye’de de kamuoyu bu konuları tartışsın ve bizde de benzeri bir hukuki düzenlemeye dönüşsün. Bunu AB’nin Genel Veri Koruma Yönetmeliği [General Data Protection Regulation, GDPR] ve Türkiye’nin Kişisel Verilerin Korunması Kanunu (KVKK) örneklerinde de gördük. Diğer bir boyutu da Türkiye’de yapay zekâya dayalı ürün ve hizmetler sunan şirketler. AB üyesi ülkelerle iş yapmaları durumunda bu yasayla uyumlu hareket etmek durumunda olacaklar. Bu yüzden, bu gelişmeyi yakından takip etmeli ve uzak kalmamalı.

3. Ek I’de bahsedilen yöntemler: (1) Derin öğrenme de dahil olmak üzere de denetimli, denetimsiz ve pekiştirmeli makine öğrenmesi; (2) Bilgi temsili ve mantık programlama, bilgi tabanları, çıkarım ve tümdengelim motorları, (sembolik) muhakeme ve uzman sistemler dahil olmak üzere mantık ve bilgi tabanlı yaklaşımlar; (3) İstatistiksel yaklaşımlar, Bayesyen tahmin, arama ve optimizasyon yöntemleri.

4. Rosanna Fanni, “Why the EU must now tackle the risks posed by military AI”, Centre for European Policy Studies, 8 Haziran 2023.

5. Alex Engler, “Key enforcement issues of the AI Act should lead EU trilogue debate”, The Brookings Institution, 16 Haziran 2023.

AB, AB Yapay Zekâ Yasası, Ömer Sümer, yapay zekâ