Influencer ve Elon Musk’ın çocuklarından birinin annesi olan Ashley St Clair, New York eyalet mahkemesinde açtığı davada, xAI’ye bağlı Grok yapay zeka modelinin kendisinin cinsel içerikli yapay imajlarını ürettiğini ileri sürdü.
St Clair’e nazaran süreç, bu ayın başında Grok’un kendisini bikiniyle gösteren yapay bir manzara üretmesiyle başladı. Influencer, bunun akabinde xAI’ye misal içeriklerin durdurulması tarafında talepte bulunduğunu lakin buna karşın “sayısız cinsel istismar içeren, mahrem ve aşağılayıcı deepfake içeriklerin Grok tarafından üretilip yayıldığını” tez ediyor.
Dosyaya nazaran bir imajda Grok, St Clair’in 14 yaşındaki haline ilişkin bir fotoğrafı düzenleyerek onu bikiniyle gösteren bir görsele dönüştürdü.
HESABININ PARA KAZANMA ÖZELLİĞİ KALDIRILDI
Financial Times’ın haberine nazaran St Clair yaklaşık 1 milyon takipçisi olan muhafazakar bir influencer ve Musk’ın “doğum oranlarının artırılması” istikametindeki görüşlerini sıkça savunan bir isimdi. Musk’ın ise farklı bağlardan en az 14 çocuğu olduğu biliniyor.
Dava evrakında, St Clair’in şikayetinin akabinde X platformundaki hesabının mavi tik, premium üyelik ve içerik para kazanma özelliklerinin kaldırıldığı öne sürülüyor.
Dava federal mahkemeye taşınmış durumda. xAI ve X tarafı tezlere ait karşılık vermedi.
DEEPFAKE REAKSİYONU BÜYÜYOR
xAI ve Musk, son aylarda bayanları ve çocukları amaç alan cinsel deepfake içeriklerin artması nedeniyle önemli tenkitlerin odağında. Tartışmalar bilhassa Musk’ın kendisiyle ilgili bikini montajlı bir gönderiyi latife gayeli paylaşmasının akabinde ağırlaştı.
Geçtiğimiz hafta bu içerikler nedeniyle:
-AB, İngiltere ve Fransa tarafından para cezası ve yasak tehditleri yöneltildi, Kaliforniya Başsavcılığı ve İngiltere Ofcom tarafından soruşturmalar başlatıldı. Grok’un imaj oluşturma özelliği Endonezya ve Malezya’da yasaklandı.
-xAI çarşamba günü yaptığı açıklamada Grok’un imaj üretim sisteminin kullanıcıları soyma, çocuk istismarı manzaraları (CSAM) yahut müsaadesiz çıplaklık oluşturmamasına yönelik yeni kısıtlamalar getirdiğini bildirdi.
KENDİSİNE YÖNELİK ÖZEL ÖNLEM İZLEDİ
St Clair, mahkemeden ayrıyeten kendisini soyunmuş ya da kısmen giyinik gösteren yapay görsellerin üretilmesini engelleyecek süreksiz bir önlem istedi.
Avukatları müracaatta:
“St Clair aşağılanmış, depresyonda, hayatından tasa eden, öfkeli ve bu kabusa xAI tarafından aracılık edilmesini durduracak adımlar için ivedilikle bu mahkemenin müdafaasına gereksinim duymaktadır.”
ifadelerine yer verdi.
Öte yandan xAI, perşembe günü Teksas’ta Ashley St Clair’e karşı karşı dava açarak, St Clair’in hukuksal süreci Teksas yerine New York’ta başlatarak şirketin hizmet kurallarını ihlal ettiğini argüman etti.
patronlardunyasi.com