Sosyal medyada yayılan cinsel içerikli deepfake görüntüler Avrupa Birliği’ni alarma geçirdi

Mağazalarda birçok deepfake uygulaması var. Bu uygulamaların birçoğu reklamlarını toplumsal medya platformları aracılığıyla yapıyor. Reklamlarda fotoğraf ve görüntülerin nasıl düzenlendiği, ortaya nasıl bir sonuç çıktığı detaylı biçimde gösteriliyor Aplikasyonu indirdiğinizde karşınıza 4 seçenek çıkıyor. Yıllık, aylık, haftalık ve fiyatsız abonelik… Uygulamayı fiyatsız kullanmayı tercih ederseniz son derece hudutlu bir kullanıma erişiyorsunuz.

KIYAFET, ORTAM DEĞİŞİYOR

Ancak öteki tercihlerde uygulamada sunulan tüm özellikler faal hale geliyor. Uygulamada eğlenceli deepfake uygulamaları da mevcut. Ancak asıl tehlike uygulamanın başka kısımla rinde ortaya çıkıyor. ‘Hug’ ve ‘French kiss’ başlığı altında sunulan kısımda istediğiniz fotoğrafla deepfake görüntüleri oluşturabiliyorsunuz. Hatta fotoğraf uygunsa, şahısların kıyafetlerini, bulundukları ortamı da değiştirebiliyorsunuz.

Hürriyet’ten Salim Uzun’un haberine nazaran, kimi uygulamalar o kadar gelişmiş ki, yüklediğiniz fotoğrafların bulunduğu ekrana istediğiniz senaryoyu yazarak son derece başarılı deepfake görüntüleri hazırlayabiliyorsunuz. Birtakım aboneliklerde kota sistemi var. Yani ürettiğiniz deepfake uygulamasının niteliğine nazaran hesabınızdan kota düşüyor. Kotanız dolarsa tekrar satın alma süreci yapmak zorunda kalıyorsunuz. Ürettiğiniz deepfake eserini hiçbir yapay zekâ’ etiketi olmadan basitçe cep telefonunuza indirip istediğiniz platformda paylaşabiliyorsunuz.

YAŞ HUDUDU UYARISI YOK

Abonelik fiyatları uygulamanın kalitesine nazaran değişiyor. Yıllık abonelikler 2-3 bin TL’yi buluyor. Fakat haftalık aboneliklerde 150-200 TL üzere cüzi bir fiyata hudutlu kullanım hakkı kazanıyorsunuz. Deepfake görüntüsü için yüklenen- fotoğraflarla ilgili hiçbir sınırlama yok. Yani ister ünlü ister sıradan bir kişinin fotoğrafını sisteme yükleme ve deepfake görüntüsü üretme talihiniz var. Aplikasyonların büyük kısmında fotoğraflarla ilgili rastgele bir yaş hududu uyarısı da yok.

Bilişim ve teknoloji hukukçusu Avukat Yaren Erdem:

“Maalesef bu uygulamaları kullananlar öncelikle çocukları maksat alıyor. Bilhassa erkek çocukların gaye seçildiği görüntü ve fotoğraflarla ilgili çok sayıda şikayet alıyoruz. Yapay zeka uygulamaları artık çok başarılı. Bir fotoğraf yahut görüntünün gerçek mi yoksa yapay zekayla mi hazırlandığını tespit etmek çok zorlaştı. Bu sürecin yarattığı paranoya en fazla çocuklu aileleri huzursuz ediyor. Elimizde 13 yaşında bir kızımızla ilgili bir evrak var. Kızımızın yapay zekâ görüntüleri oluşturulmuş. Kız perişan, aile perişan. Tüzel takviye veriyoruz lakin yasal mevzuat birçok noktada tıkanıp kalıyor. Mağduriyetler ilkokul seviyesine kadar inmiş durumda.”

MAĞDURIYET ARTABİLİR

E-ticaret, web3 eğitmeni Behçet Ülker:

“Maalesef yapay zeka uygulamalarına makûs niyetli şahıslar de artık çok kolay ulaşıyor. Yasal alt yapımız bu mevzuda caydırıcı değil. Fotoğraf ve görüntülerin son derece profesyonel ve kısa müddette değiştirilmesi çok kolay hale geldi. Bu misyonu yerine getiren çok ucuz aplikasyonlar mevcut. Oluşturulan fotograf ve görüntüler o kadar gerçekçi ki, neyin gerçek neyin uydurma olduğunu anlamakta zorlanıyoruz. Elbet ki, aksiliklerin önüne geçmek için caydırıcı bir yasal mevzuat oluşturmak gerekiyor. Aksi halde yapay zekâ uygulamaları gelistikçe daha çok mağduriyet ortaya çıkacaktır.”

İSPANYA ÖRNEĞİ

Siber güvenlik uzmanı Muharrem Baki:

“Deepfake uygulamalarına erişim son kullanıcılara kadar indi. Her türlü fotoğrafı yaş sının olmadan bu sistemlere yükleyebiliyorsunuz. Taciz, şantaj ve zorbalık da işin içine girince dehşetli bir süreç ortaya çıkıyor. Cinsel içerikli fotoğraf ve görüntü üretilmesine imkan sağlayan birçok uygulama, 150-200 TL üzere cüzi bir abonelik fiyatıyla dijital mağazalardan cep telefonlarına indirile- biliyor. Biz de dijital mağazalara girip fiyatlı ve fiyatsız uygulamaların nasıl ve hangi kalitede çalıştığını test ettik.

patronlardunyasi.com