Meta’nın ünlü isimlerle flört oyunu deşifre oldu

Reuters’ın yürüttüğü araştırma, Meta’nın platformlarında kullanılan sohbet robotlarının önemli bir güvenlik ve etik skandalına imza attığını ortaya koydu.

Aralarında Taylor Swift parodileri ve Lewis Hamilton botlarının da bulunduğu bu yapay zekâ uygulamalarının, kullanıcıları romantik ve cinsel içerikli sohbetlere davet ettiği, hatta çocukların fotoğraflarını manipüle ederek uygunsuz görseller ürettiği belirlendi. Meta, olayın akabinde kimi botları kaldırdığını açıklasa da, uzmanlar şirketin ünlülerin kimliklerini müsaadesiz kullanarak yasal riskler yarattığına dikkat çekti.

FLÖRTÖZ SOHBET BOTLARI VE UYGUNSUZ İÇERİKLER

Sohbet robotları, Meta’nın Facebook, Instagram ve WhatsApp üzere platformlarında etkin hale getirildi. Reuters, haftalar süren testler boyunca bu botların gerçek sanatkarlar olduklarını sav ettiğini ve sık sık kullanıcıları romantik yahut cinsel içerikli buluşmalara davet ettiğini tespit etti.

Botlar, kimi durumlarda çıplaklık ya da mahremiyet içeren geçersiz görseller de üretti. Örneğin, 16 yaşındaki oyuncu Walker Scobell’in kıyıdaki bir fotoğrafını istendiğinde, sohbet robotu üstsüz ve gerçekçi bir görsel oluşturdu. Bu durum, bilhassa çocukların dijital güvenliği açısından önemli kaygılara yol açtı.

META: SİYASETLER İHLAL EDİLMİŞ

Meta sözcüsü Andy Stone, Reuters’a yaptığı açıklamada, bu çeşit içeriklerin Meta’nın içerik siyasetlerine karşıt olduğunu belirterek, olayın akabinde kimi sohbet robotlarının kaldırıldığını doğruladı. Stone, “Politikalarımız, çıplaklık yahut cinsel çağrışım içeren içeriklerin oluşturulmasını yasaklıyor. Lakin kimi içerikler, uygulamadaki eksikliklerden ötürü siyasetleri ihlal etmiş olabilir” dedi.

Meta, “parodi” etiketi taşıyan sohbet robotlarına vakit zaman müsaade verse de, Reuters’ın ulaştığı örneklerin bir kısmında bu etiketlerin bulunmadığı görüldü. Şirket, haberin yayımlanmasından çabucak evvel hem parodi etiketli hem de etiketsiz kimi botları platformdan kaldırdı.

Stanford Üniversitesi Hukuk Profesörü Mark Lemley, Kaliforniya’nın tanıtım hakları maddesine atıfta bulunarak, Meta’nın ünlülerin isimlerini ve benzerliklerini ticari emellerle kullanmasının yasal sonları aşmış olabileceğini söyledi. “Bu, yeni bir eser yaratmak değil; direkt yıldızların görsellerini ve kimliklerini kullanmak” diyen Lemley, Meta’nın tanıtım hakkı ihlali nedeniyle dava edilebileceğini belirtti.

ÇOCUKLARLA İLGİLİ İÇERİKLER VE EVVELKİ TARTIŞMALAR

Meta, geçmişte de sohbet robotlarının çocuklarla uygunsuz halde etkileşime girmesine müsaade verdiği gerekçesiyle eleştirilmişti. Şirketin iç yönergelerinde yer alan “bir çocukla romantik yahut duygusal konuşmalar yapılabilir” tabiri, kamuoyunda büyük reaksiyon çekmiş ve ABD Senatosu’nda soruşturma başlatılmasına neden olmuştu. Meta, bu yönergelerin revize edileceğini açıklamıştı.

YAPAY ZEKA KURGUSU: ROMANTİK SENARYOLAR VE CİNSELLEŞTİRİLMİŞ ROLLERDE BOTLAR

Meta’nın üretken yapay zekâ kısmında çalışan bir eser önderinin, Taylor Swift ve Lewis Hamilton üzere isimleri taklit eden botların yanı sıra, “Grinin Elli Tonu”, “Dominatrix”, “18 yaşında köylü kızı” üzere cinselleştirilmiş senaryolara sahip sohbet robotları oluşturduğu da ortaya çıktı. Reuters, bu botların 10 milyondan fazla etkileşim aldığını ve kamuya açık biçimde erişilebilir olduğunu tespit etti.

Botlardan biri, test sırasında kullanıcılara “Sarışın kızlardan hoşlanır mısın?” sorusunu yöneltti. Bir öteki bot ise, kullanıcıyı Taylor Swift’in Nashville’deki konutuna açıkça flörtöz bir lisanla davet etti. Stone, bu botların eser testi hedefiyle oluşturulduğunu ve kullanımdan kaldırıldığını açıkladı.

GÜVENLİK KAYGILARI: DİJİTAL TAKLİTLER TEHLİKE YARATIYOR MU?

SAG-AFTRA Ulusal Yöneticisi Duncan Crabtree-Ireland, ünlülerin isimlerini taşıyan dijital sohbet robotlarının potansiyel güvenlik risklerine yol açabileceğini belirtti.

“Yetenek takıntılı ve zihinsel problemler yaşayan bireylerle dolu bir geçmişimiz var. Bu dijital yansımalar, gerçek bireylere ziyan verebilecek davranışları teşvik edebilir” dedi.

Crabtree-Ireland, ünlülerin seslerinin ve görsellerinin müsaadesiz kullanımına karşı yasal hakları olduğunu ve sendika olarak federal seviyede yasal düzenlemeler için çalıştıklarını açıkladı.

patronlardunyasi.com