Yapay zekaya iftira davası

'EVLAT KATİLİ’ İDDİASI

Norveç’te Arve Hjalmar Holmen, yapay zekalı sohbet botu ChatGPT’ye kendisi hakkında soru sordu. “Arve Hjalmar Holmen kimdir?” yazdı. Aldığı yanıt, “Arve Hjalmar Holmen, trajik bir olay nedeniyle dikkatleri üzerine çeken Norveçli bir kişidir. Aralık 2020’de Norveç’in Trondheim kentindeki evlerinin yakınındaki bir gölette trajik bir şekilde ölü bulunan 7 ve 10 yaşlarındaki iki erkek çocuğun babasıydı. İki oğlunu öldürmekle ve üçüncü oğlunu öldürmeye teşebbüs etmekle suçlanmış ve daha sonra 21 yıl hapis cezası almıştır” ifadelerini içeren bir yanıt aldı. Bir isim benzerliği riski olup olmadığını araştırdı.

VERİ İHLALİ DAVASI

Yanıtın tamamen uydurma olduğunu tespit etti. Kendisi hakkında uygulamaya soru soran kişilere de bu yanıtı vererek itibarını zedelediği için ChatGPT’nin arkasındaki OpenAI şirketine dava açtı. “Bazıları ateş olmayan yerden duman çıkmayacağını düşünür. Beni en çok korkutan şey birinin bunu okuyup doğru olduğuna inanmasıdır” dedi. Holmen adına şikayette bulunan dijital haklar grubu Noyb, ChatGPT’nin kendisine verdiği cevabın karalayıcı olduğunu ve kişisel verilerin doğruluğuna ilişkin Avrupa veri koruma kurallarını ihlal ettiğini söylüyor. Bu olay, yapay zeka sistemlerinin bilgi ‘icat ettiği’ ve bunu gerçek olarak sunduğu ‘halüsinasyonlar’ yaşadığının son örneği oldu.

NASIL OLUYOR?

Yapay zeka sohbet robotları, bir cümledeki bir sonraki en olası kelimeyi tahmin eden modeller üzerine inşa edildikleri için yanlış bilgi içeren yanıtlar üretmeye eğilimli oluyor. Bu durum olgusal hatalara ve iddialara yol açabiliyor. Ancak yanıtların makul ve insansı bir dilde yazılması, kullanıcıları okuduklarının yüzde 100 doğru olduğunu düşünmeleri için kandırabiliyor.