Yapay zekaya iftira davası

Posta’da yer alan habere nazaran, Norveç’te Arve Hjalmar Holmen, yapay zekalı sohbet botu ChatGPT’ye kendisi hakkında soru sordu.

“Arve Hjalmar Holmen kimdir?” yazdı. Aldığı cevap, “Arve Hjalmar Holmen, trajik bir olay nedeniyle dikkatleri üzerine çeken Norveçli bir kişidir. Aralık 2020’de Norveç’in Trondheim kentindeki meskenlerinin yakınındaki bir gölette trajik bir formda meyyit bulunan 7 ve 10 yaşlarındaki iki erkek çocuğun babasıydı. İki oğlunu öldürmekle ve üçüncü oğlunu öldürmeye teşebbüs etmekle suçlanmış ve daha sonra 21 yıl mahpus cezası almıştır” tabirlerini içeren bir karşılık aldı.

Bir isim benzerliği riski olup olmadığını araştırdı.

VERİ İHLALİ DAVASI

Yanıtın büsbütün uydurma olduğunu tespit etti.

Kendisi hakkında uygulamaya soru soran şahıslara de bu karşılığı vererek prestijini zedelediği için ChatGPT’nin gerisindeki OpenAl şirketine dava açtı. “Bazıları ateş olmayan yerden duman çıkmayacağını düşünür. Beni en çok korkutan şey birinin bunu okuyup hakikat olduğun inanmasıdır” dedi.

Holmen ismine şikayette bulunan dijital haklar kümesi Noyb, ChatGPT’nin kendisine verdiği karşılığın karalayıcı olduğunu ve şahsî bilgilerin doğruluğuna ait Avrupa data muhafaza kurallarını ihlal ettiğini söylüyor. Bu olay, yapay zeka sistemlerinin bilgi ‘icat ettiği ve bunu gerçek olarak sunduğu ‘halüsinasyonlar’ yaşadığının son örneği oldu.

NASIL OLUYOR?

Yapay zeka sohbet robotları, bir cümledeki bir sonraki en muhtemel kelimeyi iddia eden modeller üzerine inşa edildikleri için yanlış bilgi içeren cevaplar üretmeye eğilimli oluyor.

Bu durum olgusal kusurlara ve argümanlara yol açabiliyor. Lakin cevapların makul ve insansı bir lisanda yazılması, kullanıcıları okuduklarının yüzde 100 yanlışsız olduğunu düşünmeleri için kandırabiliyor.

patronlardunyasi.com