Yapay zeka yasası AB'de yürürlüğe girdi

ETİK VE GÜVENİLİRLİK

Konuyla ilgili konuşan Palamar Teknoloji Kurucu ve CEO’su Onur Candan, yapay zekanın hayatı kolaylaştırdığını, iş süreçlerini optimize ettiğini ve yeni keşifler yapmak için kullanıldığını belirterek, “Dünyayı değiştiren bir etkiye sahip. Gizlilik, güvenlik ve insanlara zarar vermeyecek bir noktada olması çok önemli bir konu. Bu nedenle, yapay zekanın etik ve güvenilir kullanımı konusunda çok dikkatli olunması ve gerekli önlemlerin alınması gerekiyor” dedi.

ODAK NOKTA İNSAN

Yapay zeka yasasının, yalnızca düzenlemeler getirmekle kalmadığını, aynı zamanda yenilikçiliği de desteklediğinin altını çizen Candan, “Özellikle start-up ve KOBİ’lere, yapay zeka modellerini geliştirme ve eğitimde gerçek dünya standartlarına yakın test ortamları sunulması öngörülüyor” diye konuştu.

RİSK SEVİYELERİ

Yasada öne çıkan bazı maddeler şöyle:

* Yasa, yapay zeka sistemlerini ‘düşük risk, ‘yüksek risk’ ve ‘kabul edilemez risk’ olarak üçe ayırıyor.
* Düşük risk: Temel şeffaflık ve hesap verebilirlik gereksinimlerini karşılamak zorunda. Örneğin, basit sohbet robotları bu kategoride yer alıyor ve kullanıcıya sohbet eden kişinin bir yapay zeka olduğunu belirtmesi yeterli oluyor.
* Yüksek risk: Güvenlik veya temel hakları ciddi şekilde etkileyebilecek sistemler bu kategoriye giriyor. Örneğin, sağlık sektöründe kullanılan tanı koyma sistemleri yüksek riskli kategoride değerlendiriliyor.
* Bu sistemler, piyasaya sürülmeden önce ve yaşam döngüleri boyunca sıkı denetimlere tabi tutulacak.
* Kabul edilemez risk: İnsanlara zarar verme potansiyeli taşıyan sistemler bu kategoride yer alıyor ve yasaklanıyor. Örneğin, sosyal skorlamalar (kişilerin davranışlarına veya sosyo-ekonomik durumlarına göre sınıflandırılması) ve izinsiz biyometrik tanımlama sistemleri bu gruba giriyor.
* İşe alım süreçlerinde kullanılan yapay zeka sistemleri, ayrımcılığı tetikleyebilir ve bu nedenle yüksek risk kategorisinde değerlendiriliyor.