Yapay zekaya iftira davası

Posta’da yer alan habere nazaran, Norveç’te Arve Hjalmar Holmen, yapay zekalı sohbet botu ChatGPT’ye kendisi hakkında soru sordu.

“Arve Hjalmar Holmen kimdir?” yazdı. Aldığı cevap, “Arve Hjalmar Holmen, trajik bir olay nedeniyle dikkatleri üzerine çeken Norveçli bir kişidir. Aralık 2020’de Norveç’in Trondheim kentindeki konutlarının yakınındaki bir gölette trajik bir biçimde meyyit bulunan 7 ve 10 yaşlarındaki iki erkek çocuğun babasıydı. İki oğlunu öldürmekle ve üçüncü oğlunu öldürmeye teşebbüs etmekle suçlanmış ve daha sonra 21 yıl mahpus cezası almıştır” sözlerini içeren bir cevap aldı.

Bir isim benzerliği riski olup olmadığını araştırdı.

VERİ İHLALİ DAVASI

Yanıtın büsbütün uydurma olduğunu tespit etti.

Kendisi hakkında uygulamaya soru soran bireylere de bu cevabı vererek prestijini zedelediği için ChatGPT’nin gerisindeki OpenAl şirketine dava açtı. “Bazıları ateş olmayan yerden duman çıkmayacağını düşünür. Beni en çok korkutan şey birinin bunu okuyup hakikat olduğun inanmasıdır” dedi.

Holmen ismine şikayette bulunan dijital haklar kümesi Noyb, ChatGPT’nin kendisine verdiği yanıtın karalayıcı olduğunu ve ferdî bilgilerin doğruluğuna ait Avrupa data muhafaza kurallarını ihlal ettiğini söylüyor. Bu olay, yapay zeka sistemlerinin bilgi ‘icat ettiği ve bunu gerçek olarak sunduğu ‘halüsinasyonlar’ yaşadığının son örneği oldu.

NASIL OLUYOR?

Yapay zeka sohbet robotları, bir cümledeki bir sonraki en mümkün kelimeyi kestirim eden modeller üzerine inşa edildikleri için yanlış bilgi içeren karşılıklar üretmeye eğilimli oluyor.

Bu durum olgusal yanılgılara ve argümanlara yol açabiliyor. Lakin cevapların makul ve insansı bir lisanda yazılması, kullanıcıları okuduklarının yüzde 100 hakikat olduğunu düşünmeleri için kandırabiliyor.

patronlardunyasi.com