Yapay zekâ sistemlerinin günden güne gelişmesi, odak alanlarının çeşitlenmesi ve kullanıcılarının bir o kadar yaygınlaşması nedeniyle yapay zekâ teknolojisi gizlilik, etik, güvenlik ile temel haklar konusundaki potansiyel zararları da beraberinde getirmektedir. Nitekim işbu potansiyel zararların bertaraf edilmesi ve doğması muhtemel ihlallerin önlenmesi ihtiyacının doğduğunu öngören Avrupa Birliği Konseyi, 21.04.2021 tarihinden bu yana üzerinde çalışılan ve çerçeve bir düzenleme olarak hazırlanan Yapay Zekâ Yasa Tasarısı’nı (“Yapay Zekâ Yasası”) 21.05.2024 tarihinde onaylamıştır¹.

Genel olarak Yapay Zekâ Yasası, risk temelini esas almakla birlikte kademeli bir yapı inşa etmiş ve uygulanacak kuralları da zarar potansiyeli üzerinde kurgulamıştır. Özetlemek gerekir ise, yapay zekâ sistemlerinin etik kurallar çerçevesinde güvenilir bir zeminde olması için bir standart yaratma eğiliminde olan Yapay Zekâ Yasası, yapay zekâ sistemlerinin topluma zarar verme riskine göre kategorize edileceğini, bu sistemlerin kullanıcıya karşın oldukça şeffaf olması gerektiğini ve aynı şekilde denetlenebilir hâlde tutulacağını düzenlemiştir. Burada önemle vurgulanması gereken nokta, yapay zekâ sistemlerinin bir düzen içerisinde tutulması gayesini taşıyan ilk düzenleme özelliğini haiz Yapay Zekâ Yasası, yapay zekâ sistemleri ve bu sistemlerin kullanıcılarına dair bir standart yaratma amacı gütmektedir.

Yapay Zekâ Yasasının Risk Yaklaşımı

Yapay Zekâ Yasası, risk temelli bir yaklaşım benimsemekle birlikte genel olarak yapay zekâ sistemlerini 4 ayrı kategoriye ayırmış ve uygulanacak olan kuralları da bu düzlemde sınıflandırmıştır.² Nitekim Yapay Zekâ Yasası; kabul edilemez risk, yüksek risk, spesifik şeffaflık riski/sınırlı risk ve minimal risk olmak üzere yapay zekâ sistemlerini kategorize etmiş ve böylece kabul edilemez risk kategorisi içinde tanımlanan; etik, gizlilik, güvenlik ve toplum ile birey haklarına tehdit oluşturan yapay zekâ sistemlerini yasaklamıştır³.

Kısaca örnek vermek gerekir ise; yasanın 5. maddesinde (Bölüm II, Yasaklanan Yapay Zekâ Uygulamaları) yasaklanan yapay zekâ uygulamaları başlığı adı altında izah edildiği üzere; sosyal puanlama, duygu tanıma, davranışsal manipülasyon, önleyici kolluk yazılımları ve insan zafiyetlerinden faydalanılmasını hedefleyen sistemleri kabul edilemez risk kategorisi içerisinde tanımlanmış ve kullanılması kesinlikle yasaklanmıştır.

Öte yandan yasanın 6 ve 7. maddelerinde (Bölüm III, Yüksek Riskli Yapay Zekâ Sistemleri) detaylıca açıklandığı üzere kritik altyapının yönetimi ve işletilmesi, eğitim, istihdam, işçi yönetimi ve göç, iltica ve sınır kontrol yönetimi gibi alanlarda kullanılan yapay zekâ sistemleri, yüksek riskli olarak sınıflandırılmış ve bu sistemlerin kullanımı yasaklanmasa da bazı katı yükümlülükler getirilmiştir. Özellikle bu yüksek riskli yapay zekâ sistemlerinin kullanılabilmesi için ön uygunluk değerlendirmeleri, kaydilik, şeffaflık, gözetim ve izleme gibi son derece emredici gereklilikler öngörülmüş ve bu yükümlülükler ile kullanıcıların temel hak ve özgürlüklerinin korunması amaçlanmıştır. Bu yükümlülükler ile açıkça görülebilecektir ki, yüksek riskli yapay zekâ sistemlerinin güvenilir, şeffaf ve hesap verebilir bir standartta olması hedeflenmiştir.

Ek olarak sohbet robotları yahut içerik üretici modelleri düşük riskli olarak sınıflandıran Yapay Zekâ Yasası, düşük riskli olarak tanımlanan yapay zekâ sistemleri için daha basit yükümlülükler öngörmüştür. Buna göre düşük riskli yapay zekâ sistemlerine, karşı tarafa yapay zekâ sistemi ile etkileşime girdiğine dair bilgilendirme yapması ve bir çıktı ortaya konulması hâlinde işbu çıktının yapay zekâ sistemi yardımıyla üretildiğine dair tespit edilebilir biçimde tasarlanması gerekliliği getirilmiştir.

Bir diğer açıdan, hesap makineleri yahut basit oyunlar gibi kullanıcılar için temel haklar yahut güvenlik üzerinde bir tehdit oluşturmayan yapay zekâ uygulamaları ise minimal risk olarak tanımlanmış ve genel yükümlülükler dışında ek bir gereklilik getirilmemiştir.

Şeffaflık, İnovasyon Ve Yenilikler

Yukarıda da kısaca bahsedildiği üzere Yapay Zekâ Yasası ile sohbet robotları yahut içerik üreten düşük riskli yapay zekâ sistemlerine; şeffaflık, ayırt edilebilirlik ve güvenlik yönünden son derece önemli yükümlülükler düzenlenmiş ve özellikle tüketici farkındalığının artırılması hedeflenmiştir. Özellikle ilgili yasanın 133. ve 134. paragraflarında, bir içeriğin yapay zekâ tarafından oluşturulması hâlinde işbu içeriğin yapay zekâ tarafından oluşturulduğunun belirtilmesinin zorunlu olduğu ve yapay zekâ sisteminin yasa dışı içerik üretmesini engelleyecek şekilde tasarlanması gerektiği ifade edilmiştir. Özellikle ilgili yasada “bilgi ekosisteminin bütünlüğü ve güvenliği üzerinde son derece öneme sahip olan içerik üreten yapay zekâ sistemleri, büyük ölçekte yanlış bilgilendirme, manipülasyon, dolandırıcılık yahut kimliğe bürünme gibi riskleri de beraberinde getirdiğinden ve bilginin kökenini izleme ihtiyacı nedeniyle, yapay zekâ sistemlerinin sağlayıcılarının, çıktının bir yapay zekâ sistemi tarafından üretildiğini veya değiştirildiğini belirten ve insan tarafından üretilmediğini tespit eden teknik çözümler yerleştirmeleri gerekmektedir” ifadelerine yer verilmiş ve aynı şekilde yapay zekâ sistemlerinin Avrupa Birliği telif hakkı yasalarına da uyum sağlaması gerektiğine yer verilmiştir. Yine şeffaflık ilkesinin bir gereği olarak, yapay zekâ sistemlerinin eğitiminde kullanılan veriler hakkında yeterince ayrıntılı bir özetin kamuya açık hâle getirilmesi gerektiği de ifade edilmiştir. Ezcümle, işbu ifadelerin bir bütün olarak değerlendirilmesi hâlinde Yapay Zekâ Yasası, bilgi kirliliğinin önüne geçmek ve yapay zekâ tarafından üretilen içeriklerde kullanıcı ve tüketicinin farkındalığını son derece diri tutmak istemektedir.

Belki de Yapay Zekâ Yasası ile ilgili bir diğer en önemli husus yapay zekâ sistemlerinin denetlenmeye açık olması gerektiğine ilişkindir. Nitekim Yapay Zekâ Yasası kapsamında, Avrupa Komisyonu nezdinde kuralların uygulanması, efektifliğin sağlanması, uzmanlık ve yeteneklerin geliştirilmesi ile teknik danışma sağlanması için bir yapay zekâ ofisi kurulması hedeflenmiştir. Bu itibarla yasanın 148 ile 153. paragraflarında açıkça etkili uygulama için bir yapay zekâ ofisi kurulması, yapay zekâ ekosisteminin çıkarlarını gözetilmesi ve denetlenmesi gerekliliği izah edilmiş ve yönetim organının yapısı ile kurulun görev ve sorumlulukları izah edilmektedir.

Ek olarak Yapay Zekâ Yasası, özellikle yüksek riskli bir yapay zekâ sisteminin bazı kamu hizmeti sağlayan kuruluşlar tarafından sunulması hâlinde, temel hak ve özgürlükler üzerindeki etkisinin değerlendirilmesi ve şeffaflığın sağlanabilmesi için bu sistemleri kullanan kuruluşların da Avrupa Birliği veri tabanına kaydedilmesi gerektiğini düzenlemektedir.

Yapay Zekâ Yasasına Aykırılık Hâli Ve Yaptırımlar

Yapay Zekâ Yasası, uyulması gereken kurallara aykırılık hâlinde çeşitli yaptırımlar öngörmekte ve kurallara riayet edilmesi gerektiğini önemle vurgulamaktadır. Özellikle, bu yasaya aykırılık hâlinde ihlalin kapsamına göre aykırılığa sebebiyet veren şirketin bir önceki mali yıldaki küresel yıllık cirosunun belli bir yüzdesi veya önceden belirlenmiş sabit bir tutar üzerinden bir yaptırım uygulanması ve söz konusu tutarlardan hangisi daha yüksekse, o cezanın uygulanması gerektiğine dair ifadelere yer verilmiştir. Şöyle ki, Yapay Zekâ Yasası’nın 7. bölümünde (Chapter VII) açıkça düzeltici tedbirler, faaliyet kısıtlamaları gibi yaptırımlara yer verilmiş ve ek olarak para cezaları da düzenlenmiştir. İlgili yasada ihlallerin ciddiyetine göre bir belirleme yapılacağı ifade edilse de azami para cezasının, 35 milyon Euro'ya kadar veya şirketin yıllık küresel cirosunun %7'si (hangisi daha yüksekse) oranına kadar yükseldiği görülmektedir.

Yürürlük Ve Uygulama

Avrupa Parlamentosu tarafından imzalandıktan sonra Avrupa Birliği Resmî Gazetesi’nde yayımlanacak olan Yapay Zekâ Yasası, yayımını takiben 20 gün sonra yürürlüğe girecek ve risk gruplarına göre yapay zekâ sistemlerine belirli süreler tanınacaktır. Yeni düzenlemenin yürürlüğe girmesinden itibaren; 6, 12 ve 24 ay olarak kademeli bir uygulama alanı bulacak olan Yapay Zekâ Yasası ile yasaklanan yapay zekâ sistemlerine ilişkin düzenlenen hükümlerin uygulama alanı yürürlük tarihinden itibaren 6 ay olarak belirlenmiş, genel amaçlı yapay zekâ kuralları yürürlük tarihinden itibaren 12 ay olarak belirlenmiştir. Özetlemek gerekir ise genel itibarıyla Yapay Zekâ Yasası’nın yürürlüğe girmesinden itibaren azami olarak 24 ay içerisinde tüm kuralların uygulanacağı söylenebilecektir.⁴

Sonuç

Sonuç olarak, yapay zekâ sistemlerinin bir düzen ve tertip içerisinde kullanılması ve risk temelli yaklaşımın yanı sıra şeffaflığı da destekleyen Yapay Zekâ Yasası, ayrıca yenilikçi yapay zekâ sistemlerinin geliştirilmesi ile ilgili teşvik edici hükümler de içermektedir. Öte yandan, yapay zekâ teknolojilerinin güvenli, şeffaf ve etik bir şekilde kullanılmasını sağlamak amacıyla kapsamlı düzenlemeler getiren Yapay Zekâ Yasası hem bireylerin haklarını korumayı hem de yenilikçi yapay zekâ uygulamalarının güvenle geliştirilmesini teşvik etmeyi amaçlamaktadır. Bu düzenlemeler, yapay zekâ teknolojilerinin gelecekte daha güvenilir ve kaydi bir şekilde kullanılmasını sağlayacak, yapay zekânın etik ve insan merkezli gelişimine şüphesiz ki katkıda bulunacaktır. Böylelikle işbu Yapay Zekâ Yasası ile teknolojinin sunduğu fırsatlar en iyi şekilde değerlendirilebilecek ve toplumsal ve bireysel hakların korunduğu bir yapay zekâ ekosistemi inşa edilecektir.

Kaynakça

1- European Commission

2- European Parliament

3- European Parliament

4- European Parliament

Ek bilgiye ihtiyaç duymanız hâlinde bizimle iletişime geçiniz.