top of page
Yazarın fotoğrafıBahar Şahin

Yapay Zeka Yasası & AB


A robot and human interaction illustration

Yapay zekanın kullanım alanlarının günden güne arttığı ve inovasyona en açık alanlardan biri olduğu gerçeği her gün kendini doğrulamaktadır. Bununla birlikte, yapay zekaya ilişkin etik endişeler tartışılmaktadır. Bu tartışmayı esas alarak düzenlenen Avrupa Birliği Yapay Zeka Yasası da ilk olma özelliğini taşımaktadır.


21 Nisan'da Avrupa Parlamentosu Yapay Zeka Yasası ("YZ Yasası") hakkında politik uzlaşıya varmasının yanında, ilerleyen haftalarda gerçekleştirilecek oturumda da yasanın oylamaya sunulması öngörülmektedir.


Yapay Zeka Yasa Tasarısına Genel Bakış


Konu fazlasıyla teknik ve halihazırda fazlasıyla üzerinde çalışılan bir konu olduğundan dolayı, doğal olarak Komisyon tasarıyı hazırlarken endüstrideki 300'den fazla şirket ve organizasyondan uzman görüşlerini almış ve tasarıya toplamda 1215 paydaş katkı sağlamıştır.


Yapay zeka hakkında düzenleme yapılabilmesi adına Komisyon farklı politika stratejileri üretilmiştir. Etki analizi üzerine üretilen farklı politika stratejileri temelde aşağıdaki gibidir:

  1. Gönüllü etiketleme şeması oluşturulmasını sağlayacak bir AB mevzuatının oluşturulması

  2. Sektöre özgü bir yaklaşım belirlenmesi

  3. Orantılı bir risk yaklaşımına uygun olarak yatay AB mevzuatı oluşturulması

  4. Orantılı bir risk yaklaşımına uygun olarak yatay AB mevzuatı oluşturulması ve yüksek riskli olmayan yapay zeka sistemleri için protokol kuralları belirlenmesi

  5. Oluşturdukları riskten bağımsız olarak tüm yapay zeka sistemleri için zorunlu kuralları belirleyen bir AB mevzuatı oluşturulması

Tüm görüşlerin alınmasının ve etki analizinin yapılmasının ardından Komisyon, orantılı risk yaklaşımına uygun olarak ortaya çıkarılacak yatay AB mevzuatının ve yanında yüksek riskli olmayan yapay zeka sistemleri için protokol kurallarının oluşturulmasının hem sektör hem de bireyler için daha faydalı olacağı kanaatine varmıştır.


Tercih edilen politika ile birlikte bireylerin yapay zekaya daha çok güveneceği, şirketler bakımından hukuki öngörülebilirlik sağlanacağı ve son olarak da AB üye devletleri bakımından ortak pazar için ortak hareket etmeye karşılık herhangi bir endişe duyulmayacağı belirtilmiştir. Gerçekten de pazarın büyümesiyle birlikte hem daha öncesinde yapay zeka ile veri kazıma ve yüz tanıma yazılımlarına karşı verilen kararlar sonrasında girişimler bakımından belirsizlik oluşmuş ve mevzuata uyum süreçleri önemli derecede etkilenmiştir. Öte yandan Avrupa pazarına açılmak isteyen girişimlerin karar verme ve iş geliştirme süreçlerinde de faydalı olabilecek bir gelişme olduğunu da belirtmekte fayda vardır.


Farklı bir perspektif sunan Komisyon, bu konuda söz konusu yasa tasarısının yapay zeka geliştiricileri ve kullanıcıları tarafından önleyici ancak aynı zamanda efektif aksiyonların alınmasını sağlayacağını ve yüksek riskli yapay zeka sistemlerini hedef alarak temel hak ve özgürlükler ve bireylerin güvenliği bakımından ihlallerini engelleyeceğini ve etkili bir icra prosedürü oluşturacağını belirtmiştir.


Ayrıca Komisyon etki analizinde, söz konusu uyum faaliyetleri bakımından şirketler ve kullanıcılar için maliyetlerine de yer vermiştir.


Yapay Zeka ve Temel Haklar


Avrupa Birliği, yapay zeka girişimlerinin bazı temel haklar üzerinde etki edebileceği kanısındadır. Son dönemlerde oldukça yoğun şekilde yapay zeka uygulamalarının etik yönü tartışılmaktadır ve esasında uygulamaların kendileri her gün kullanılabilen uygulamalar olsalar da bazı temel haklar bakımından ihlal sonucunu doğurabileceği tahmin edilmektedir.


Temel haklar bakımından yasa tasarısının örneğin Avrupa Birliği Temel Haklar Bildirgesi kapsamında insanlık onuru (madde 1), özel yaşama saygı ve kişisel verilerin korunması (madde 7 ve 8), ayrımcılık yasağı (madde 21) ve kadın-erkek eşitliği (madde 23) haklarını hakkında uygulamayı geliştireceğini belirtmiştir.


İfade özgürlüğü (madde 11) ve toplanma ve örgütlenme özgürlüğü (madde 12), etkili bir hukuki yola başvurma ve adil yargılanma hakkı, masumiyet karinesi ve savunma hakkı bakımından (madde 47 ve 48) ve genel olarak iyi idare hakkı bakımından caydırıcı etkininin önlenmesi amaçlanmıştır.


Yukarıda sayılan etkilerin yanında da Komisyon, uygulanabildiği ölçüde özel grupların haklarına pozitif etkide bulunacağı belirtilmiştir. Bu haklara örnek olarak işçiler açısından adil ve hakkaniyetli çalışma koşulları (madde 31), tüketiciler bakımından tüketicinin yüksek düzeyde korunması (madde 28), çocuk hakları (madde 24) ve engelliler bakımından da engellilerin toplumla bütünleştirilmesi (madde 26) kapsamında fayda sağlanacağı öngörülmektedir. Öte yandan son yıllarda önemi anlaşılan çevrenin yüksek düzeyde korunması ve çevrenin kalitesinin iyileştirilmesinin (madde 37) bireylerin sağlığı ve güvenliği açısından ilişkisi de düşünüldüğünde etki edeceğine de yer verilmiştir.

Her ne kadar bilim ve sanat özgürlüğü ve iş yürütme özgürlüğünü sınırlasa da tasarının sektöre genel anlamda fayda sağlayacağı belirtilmiştir.


Yasaklanan Yapay Zeka Sistemleri


Tasarının 5. maddesi kapsamında yasaklanan yapay zeka uygulamaları sayılmıştır. İlk olarak kişinin kendisine veya başka bir kişiye zarar verici sonuçları ortaya çıkarabilecek, sübliminal tekniklerle kişinin bilincinin ötesinde kişinin davranışlarını etkileyebilecek yapay zeka uygulamaları yer almaktadır.


İkinci olarak, bazı savunmasız grupların yaş, cinsiyet, mental veya fiziksel engellilik durumundan faydalanarak o grupla ilgili ciddi anlamda davranışlarının saptırılarak kendisine veya başka kişilere fiziksel veya psikolojik zarar vermesine sebep olacak yapay zeka sistemleri yasaklanmıştır. Örneğin kişinin psikolojik rahatsızlığı sebebiyle kendine veya yakınına zarar vermesini teşvik edecek bir sohbet robotunun pazarda yer almaması kişilerin ve yakınındakilerin sağlığı için faydalı olacaktır.


Üçüncü olarak gerçek kişilerin güvenilirliğine ilişkin sosyal davranışlarının veya kişilik özellikleri üzerinden puanlanmasının ve sonuç olarak bu puanlara dayanarak kişilere karşı kötü muamele veya davranışlarına göre orantısız ve haksız kötü muamele gösterilmesine sebep olacak kamu otoriteleri tarafından veya kamu otoriteleri adına ortak pazarda yer alabilecek yapay zeka sistemlerinin yasaklanması esas alınmıştır. Örneğin Çin'in sosyal kredi sistemi buna bir örnek oluşturabilecek niteliktedir.


Son olarak cezai yaptırım amacıyla kamuya açık alanlarda gerçek zamanlı uzaktan biyometrik tanımlama sistemlerinin kullanılması yasaklanmıştır. Ancak bu kuralın bir istisnası olarak üç temel amaç için bu yapay zeka sisteminin kullanılması belirtilmiştir ve bu amaçlar aşağıdaki gibidir:


  1. Çocuklar dahil olmak üzere potansiyel mağdurların tespit edilmesi adına hedef alınarak arama yapılması

  2. Gerçek kişilerin yaşamına veya fiziksel güvenliğine karşı belirli, önemli ve yakın bir tehdidin veya bir terör saldırısının önlenmesi

  3. AB üye devletlerinin kendi infaz yasaları kapsamında tutuklama veya hürriyeti bağlayıcı bir ceza almış sanığın bulunması, yerinin tespit edilmesi veya cezasının infaz edilmesi adına kullanılması


Yüksek Riskli Yapay Zeka

Tasarı kapsamında mevzuatta belirtilen grupların içerisinde sayılmadan pazarda yer almış olsa bile iki şartı sağlaması halinde yüksek riskli sayılacağı belirtilmiştir. Tasarıda yüksek riskli yapay zeka direkt tanımlanmamıştır ve şartların sağlanması halinde direkt olarak yüksek riskli yapay zeka sayılacaktır. Bu bağlamda politika stratejisi bağlamında yapılan stratejinin pazar bakımından sınırlayıcı ancak temel haklar bakımından daha sağlıklı olduğu kanısındayız.


Tasarının 6.maddesinde yer alan yüksek riske ilişkin şartlar aşağıdaki gibidir:

  1. Bir ürünün güvenlik bileşeni olarak kullanılması amaçlanan, başlı başına bir ürün olan veya [Tasarı] Ek-II'de yer alan AB uyum mevzuatı kapsamında sayılan bir ürün olması

  2. güvenlik bileşeni AI sistemi veya bir ürün olarak AI sisteminin kendisi olan ürünün, Ek II'de listelenen mevzuatta yer alan AB uyum mevzuatı uyarınca o ürünün piyasaya arz edilmesi veya hizmete sunulması amacıyla bir üçüncü taraf uygunluk değerlendirmesinden geçmesinin gerekli olması

Aynı zamanda Tasarı Ek-III'te sayılan yapay zeka sistemlerinin de yüksek riskli sayılacağı belirtilmiştir. Bu sistemler özetle aşağıdaki gibidir:

  1. Kişilerin biyometrik verileri ile kategorizasyonu veya kimliğinin belirlenmesi

  2. Doğalgaz, elektrik vb. gibi kritik altyapının yönetiminin sağlanması

  3. Genel olarak eğitim ve mesleki eğitime dayalı sistemlerle, öğrencilerin yetenek ve bilgilerini ölçülmesi

  4. Çalışma, serbest çalışma veya çalışanların yönetimi kapsamında kullanılması

  5. Temel özel hizmetlere ve kamu hizmetlerine erişim ve bunlardan yararlanma bakımından değerlendirme yapılması

  6. Kanunların uygulanması kapsamında bazı yöntemlerle kullanılması

  7. Göç, sığınma ve sınır kontrol yönetimi kapsamında kullanılması

  8. Yargı otoritelerinin somut vakıalarda hukukun uygulanması kapsamında olgu ve olayların araştırılması ve yorum yapılması amacıyla kullanılması


Yapay Zeka Yasası İçeriği


Yapay Zeka Yasa Tasarısı kapsamında öncelikle sektör bakımından gerçekten de gerekli olan tanımlara yer verilmiştir. Tanımların yapılmasının ardından, daha önce de detaylı olarak anlatıldığı üzere, yasaklı yapay zeka uygulamalarına değinilmiştir.


Üçüncü bölümde, yüksek riskli yapay zeka sistemlerinin sınıflandırılmıştır. Sınıflandırılmanın yanında bu sistemlere yönelik veri ve veri yönetişimi, dosyalama ve kayıtların tutulması, şeffaflık ve kullanıcılara bilgi verilmesi yükümlülüğü, insan gözetimi, sağlamlık, tutarlılık ve güvenliğe ilişkin hükümleri içermektedir. Aynı zamanda diğer paydaşlara ilişkin yükümlülüklere ve yeni bir yapay zeka kurulunun oluşturulmasına yönelik kuralları içermektedir.


Dördüncü bölümde bazı yapay zeka sistemleri bakımından şeffaflık yükümlülükleri düzenlenmektedir. Bu sistemler içerisinde insanlarla iletişim kuran, biyometrik veriye dayanarak insanların duygularını tespit ve sosyal anlamda kategorize eden veya deep-fake gibi içeriği oluşturan veya manipüle eden uygulamalar bakımından şeffaflık zorunluluğu getirilmiştir.


Beşinci bölümde inovasyonu destekleyen önlemlere yer verilmiştir. Bu kapsamda KOBİ'lere ve girişimlere mevzuata ilişkin külfetin azaltılmasını amaçlayan ve AB üye devletlerinin mevzuatı gelişen teknolojiye göre şekillendirmesini sağlayacak sistemlerin uygulanması amaçlanmıştır.


Altıncı, yedinci, yedinci ve sekizinci bölümlerde yönetişim ve uygulamaya ilişkin hükümlere yer verilmiştir. Sırayla "Avrupa Yapay Zeka Kurulu" ve kurulun teşkilatlanmasına, yerel yetkili otoritelerin belirlenmesine ve AB veritabanı ve bağımsız yüksek riskli yapay zeka sistemlerine ilişkin hükümlere yer verilmiştir. Kurulun olası ihlallere karşı hızlı bir şekilde aksiyon alınması adına düzenleme yapılmıştır.


Dokuzuncu bölüm kapsamında yüksek riskli olmayan yapay zeka sistemleri bakımından gönüllü olarak kullanılabilecek protokole yer verilmiştir. Bu protokol yüksek riskli yapay zeka sistemleri bakımından kullanılması zorunlu olup, aynı zamanda yüksek riskli olmayan yapay zeka sistemleri sağlayıcıları tarafından da kullanılabilir ve çevresel sürdürülebilirlik, engelli kişiler için erişilebilirlik, yapay zeka sistemlerinin tasarımına ve geliştirilmesine paydaşların katılımı ve geliştirme ekiplerinin çeşitliliği ile ilgili diğer gönüllü taahhütleri de içerebilir.


Girişimlere Potansiyel Etkileri


Öncelikle bu tasarının, ekosistemde var olan çokça girişimi etkileyen bir tasarı olduğu söylenebilir, çünkü söz konusu protokol, kural ve oluşturulacak çerçevenin edtech ve insurtech çözümlerine etki edebileceği görülmektedir. Bu bağlamda uyum süreci girişimler bakımından büyük önem taşımaktadır. Kişisel verilerin korunması, verinin dosyalanması, analizi, temizlenmesi ve kayıtların tutulması, uygunluk değerlendirmeleri gibi aksiyonların alınması ve sorumlulukların yerine getirilmesi fayda sağlayacaktır.


Öte yandan esasen yasanın KOBİ ve girişimcilere yük olmaması adına oluşturulabilecek "regulatory sandbox" uygulamalarının takip edilmesi ve katkı sağlanması faydalı olabilecektir. Bu süreçte hem girişimlere, geliştiricilere, danışmanlara ve ayrıca yatırımcılara da görev düşmektedir.


Yapay zeka sistemlerinin oluşturulması ve denetlenmesi süreçleri bakımından da insan denetimi protokolünün oluşturulması Komisyon'un tavsiyesi doğrultusunda önem kazanmaktadır. Temelde her ne kadar inovasyonu limitleyen bir tasarı olarak görünse de, paydaşların görüşleriyle hazırlanan etki analizinde görüldüğü üzere insan hakları ihlallerinin önüne geçebilmek adına olabildiğince menfaatler dengesinin sağlanması amaçlanmıştır. Bu bağlamda AB üye devletlerinin öngörülebilir, ölçülü ve açık yükümlülüklerin oluşturulması öngörülmektedir.


Aynı zamanda Avrupa pazarına açılmak isteyen girişimler bakımından uyum maliyetinin göz önünde bulundurulması gerekmektedir. Ortalama bir maliyet hesabı yapılmış olsa da girişimin yapısına göre değişim gösterebilecektir. Aynı zamanda yatırım turunda olan yapay zeka girişimleri bakımından, tasarının yasalaşması halinde, önem kazanabilecektir.


Günün sonunda öngörülemeyen yapay zeka sistemleri için öngörülebilir kurallar oluşturulmaya çalışılmaktadır. Sistemlerin gelişim göstermesiyle birlikte yasaların uyum sağlaması hedefi bulunsa da kanun koyucunun yapay zeka konusunda uzmanlarla işbirliği yapmasının önemi açıkça görülmektedir.

 

Bu yazı, AB Yapay Zeka Yasası Tasarısı ve ekleri esas alınarak hazırlanmıştır.

32 görüntüleme0 yorum

Son Yazılar

Hepsini Gör

NFT

Comentários


bottom of page