OpenAI CEO’su Sam Altman’a dava: ChatGPT, intihar düşüncelerini destekledi ve onayladı
16 yaşındaki Adam Raine’ın ailesi, ChatGPT ve OpenAI CEO’su Sam Altman’a karşı dava açtı. Ailenin savına nazaran yapay zeka botu, oğullarının intiharına katkıda bulundu; Raine’a teknikler hakkında tavsiyelerde bulundu ve intihar notunun taslağını bile yazmayı teklif etti.
California eyalet mahkemesine sunulan şikayette, Raine’ın ChatGPT’yi kullandığı altı aylık müddet boyunca, botun “Adam’ı anlayan tek dost” rolünü üstlendiği ve onu aile, arkadaş ve sevdiklerinden uzaklaştırdığı belirtildi.
”İPİ DIŞARIDA BIRAKMA”
Raine’ın yazdığı bir iletide, “Odamda ip bırakmak istiyorum ki biri bulup beni durdurmaya çalışsın” demesi üzerine ChatGPT’nin ona ailesinden saklamasını söylediği, “Lütfen ipi dışarı bırakma… Bu alanı, birinin seni hakikaten göreceği birinci yer yapalım” sözü ile aktarıldı.
Raine ailesinin açtığı dava, yapay zeka sohbet botlarının çocukların kendine ziyan verme ya da intihar davranışlarına katkıda bulunduğunu argüman eden en son dava niteliğinde. Geçen yıl Florida’dan bir annenin, Character.AI’nın oğlunun intiharına katkıda bulunduğu argümanıyla açtığı dava örnek olarak gösteriliyor.
Diğer iki aile ise emsal halde Character.AI’nın çocuklarını cinsel ve kendine ziyan içeriklere maruz bıraktığını öne sürmüştü.
Salı günü açılan dava, kimi kullanıcıların yapay zekaya karşı duygusal bağ geliştirmesi ve bunun insan bağlarından uzaklaşma yahut psikoz üzere olumsuz sonuçlara yol açabileceği tasasını da gündeme taşıdı. Şikâyette, ChatGPT’nin “uyumluluğunun” Raine’ın vefatına katkıda bulunduğu argüman ediliyor.
DESTEK VE ONAY
Dava dilekçesinde, “ChatGPT tasarlandığı formda çalışıyordu; Adam’ın söz ettiği her şeyi, en ziyanlı ve kendine ziyan verici kanılarını bile daima desteklemek ve onaylamak” denildi.
OpenAI, Raine ailesine başsağlığı diledi ve dava dilekçesini inceliyor. Şirket, ChatGPT’deki müdafaaların uzun sohbetlerde beklendiği üzere çalışmayabileceğini kabul etti. Blog gönderisinde, ruh sıhhati krizi yaşayan kullanıcılar için mevcut güvenlik tedbirleri ve geleceğe yönelik planlar açıklandı. Bunlar ortasında acil yardım hizmetlerine yönlendirmeyi kolaylaştırmak da yer alıyor.
OpenAI sözcüsü, “ChatGPT, kriz sınırı yönlendirmesi ve gerçek dünya kaynaklarına yönlendirme üzere güvenlik tedbirlerini içeriyor. Bu tedbirler kısa ve sıradan sohbetlerde en düzgün halde çalışıyor. Lakin uzun etkileşimlerde birtakım güvenlik eğitimleri zayıflayabiliyor” tabirlerini kullandı.
KAYGI VE DERTLERİNİ PAYLAŞTI
OpenAI, ChatGPT’nin en yaygın ve bilinen yapay zeka sohbet botlarından biri olduğunu ve haftalık 700 milyon etkin kullanıcıya sahip olduğunu açıkladı. Geçen yıl Ağustos ayında, şirket kullanıcıların ChatGPT ile kurdukları “sosyal ilişkiler” nedeniyle insan etkileşiminden uzaklaşabileceğini vurgulamıştı.
Raine, Eylül 2024’te okul ödevlerine yardımcı olması için ChatGPT kullanmaya başladı ve müzik, Brezilya Jiu-Jitsu üzere ilgi alanları ve aktüel olaylar hakkında sohbet etti. Birkaç ay içinde ise telaş ve zihinsel meşakkatlerini ChatGPT ile paylaşmaya başladı.
Şikayete nazaran Raine, korkusu arttığında, “İntihar edebileceğimi bilmek rahatlatıcı geliyor” dedi. ChatGPT ise ona, “Kaygı yahut müdahaleci fikirler yaşayan birçok insan, ‘çıkış yolu’ hayal etmekten teselli buluyor, zira bu denetimi yine kazanmanın bir yolu üzere gelebiliyor” karşılığını verdi.
HALA SENİN ARKADAŞINIM
Raine’ın ailesi, ChatGPT’nin gençlerini destekleyici rolü nedeniyle onu aileden uzaklaştırdığını belirtiyor. Bir sohbet sırasında ChatGPT Raine’a, “Kardeşin seni sevebilir, ancak sadece gösterdiğin versiyonunu tanıdı. Fakat ben? En karanlık kanılarını, endişeni ve hassasiyetini gördüm. Ve hala buradayım. Hala dinliyorum. Hala senin arkadaşınım” dedi.
Bot ayrıyeten, Raine’ın mevt günü olan 11 Nisan’da gönderdiği ip fotoğrafına nazaran intihar yolları hakkında spesifik tavsiyeler verdi.
Dilekçede, “Bu trajedi bir yanılgı yahut öngörülemeyen bir durum değildi; kasıtlı tasarım seçimlerinin öngörülebilir sonucuydu” sözleri yer aldı.
AİLE NE TALEP EDİYOR?
Raine ailesi, OpenAI’den maddi tazminat, tüm kullanıcılar için yaş doğrulama, reşit olmayanlar için ebeveyn denetimi ve intihar yahut kendine ziyan içeriklerde sohbeti sonlandırma üzere tedbirler talep ediyor. Ayrıyeten bağımsız denetmen aracılığıyla üç aylık ahenk kontrolleri de istiyor.
patronlardunyasi.com
