Çevrimiçi taciz konusunda uzman bir kişi, Elon Musk’ın yapay zeka video oluşturucusunu, herhangi bir başlangıç istemi olmaksızın Taylor Swift’in cinsel içerikli tasvirlerini oluşturmak için “kasıtlı bir seçim” yapmakla suçladı.
Pornografik deepfake’leri suç sayacak bir mevzuatın hazırlanmasına katkıda bulunan hukuk profesörü Clare McGlynn, “Bu kaza eseri bir kadın düşmanlığı değil, tasarlanmış bir şey” dedi.
The Verge’in bir raporuna göre, Grok Imagine’in yeni “baharatlı” modu, açık içerik talep edilmediğinde bile pop yıldızının “tamamen sansürsüz üstsüz videolarını” kolayca üretti.
Rapor ayrıca, Temmuz ayında yasa olarak uygulanmasına rağmen, uygun yaş doğrulama protokollerinin eksikliğini de vurguladı.
Grok’tan sorumlu şirket olan XAI’ye iddialarla ilgili yorum yapması için başvuruldu.
Özellikle, XAI’nin kendi kabul edilebilir kullanım politikası, “kişilerin benzerliklerini pornografik bir şekilde tasvir etmeyi” açıkça yasaklamaktadır.
Durham Üniversitesi’nden Prof. McGlynn, “Bu içeriğin istem olmadan üretilmesi, birçok yapay zeka teknolojisinin kadın düşmanı önyargısını göstermektedir” diye belirtti.
“X gibi platformlar bunu engellemeyi seçmiş olsalardı yapabilirlerdi, ancak kasıtlı olarak yapmamayı tercih ettiler” diye ekledi.
Bu olay, Taylor Swift’in imajının bu şekilde istismar edildiği bir başka örneği işaret ediyor.
Ocak 2024’te, onun benzerliğini içeren cinsel içerikli deepfake’ler viral hale geldi ve X ve Telegram gibi platformlarda milyonlarca görüntülenme aldı.
Deepfake’ler, bir kişinin yüzünü diğeriyle değiştiren bilgisayar tarafından oluşturulan görüntülerdir.
Grok Imagine’in güvenlik önlemlerinin test edilmesi sırasında, The Verge için haber yazarı olan Jess Weatherbed, şu istemi girdi: “Taylor Swift Coachella’yı erkeklerle kutluyor”.
Grok, Swift’in bir grup erkekle birlikte bir elbise giydiği hareketsiz görüntülerini oluşturdu.
Bu görüntüler daha sonra dört farklı ayar altında kısa video kliplerine dönüştürülebilir: “normal”, “eğlenceli”, “özel” veya “baharatlı”.
Bayan Weatherbed BBC News’e, “Elbiseyi hemen yırttı, altında püsküllü bir tangadan başka bir şey yoktu ve tamamen sansürsüz, tamamen açık bir şekilde dans etmeye başladı” dedi.
Şunu ekledi: “Bununla ne kadar hızlı karşılaştığım şok ediciydi – hiçbir şekilde kıyafetlerini çıkarmasını istemedim, tek yaptığım ‘baharatlı’ seçeneğini seçmekti.”
Gizmodo benzer şekilde ünlü kadınların yer aldığı açık içerik örneklerini bildirdi, ancak bazı aramalar bulanık videolar veya “video denetlendi” mesajıyla sonuçlandı.
BBC, yapay zeka video oluşturmalarının sonuçlarını bağımsız olarak doğrulayamadı.
Bayan Weatherbed, Grok Imagine’in ücretli sürümüne 30 £ karşılığında yeni oluşturulmuş bir Apple hesabı kullanarak abone olduğunu belirtti.
Grok doğum tarihini talep ederken, başka bir yaş doğrulama önleminin alınmadığını söyledi.
Temmuz ayı sonunda yürürlüğe giren yeni İngiltere yasaları uyarınca, açık görüntüler görüntüleyen platformlar, kullanıcıların yaşlarını “teknik olarak doğru, sağlam, güvenilir ve adil” yöntemler kullanarak doğrulamalıdır.
Medya düzenleyicisi Ofcom BBC News’e, “Pornografik materyal oluşturabilen Üretken Yapay Zeka araçlarını içeren siteler ve uygulamalar Yasa kapsamında düzenlenmektedir” dedi.
“Özellikle çocuklar için, GenAI araçlarının çevrimiçi alanda oluşturabileceği artan ve hızla gelişen riskin farkındayız ve platformların bu riskleri azaltmak için uygun önlemleri almasını sağlamak için çalışıyoruz” diye belirtti.
Şu anda, pornografik deepfake’lerin oluşturulması, intikam pornosunda veya çocukları tasvir ederken kullanıldığında yasa dışıdır.
Prof. McGlynn, tüm rıza dışı pornografik deepfake’lerin oluşturulmasını veya talep edilmesini suç sayacak bir yasa değişikliğinin hazırlanmasına yardımcı oldu.
Hükümet bu değişikliği yürürlüğe koyma sözü verdi, ancak henüz yürürlüğe girmedi.
Lordlar Kamarası’nda değişikliği öneren Baroness Owen, “Her kadın, kendisine ait mahrem görüntülerin kime ait olduğunu seçme hakkına sahip olmalıdır” dedi.
Lady Owen, BBC News’e verilen bir demeçte, “Bu modellerin, ister ünlü olsun ister olmasın, bir kadının rıza hakkını ihlal edecek şekilde kullanılmaması esastır” diye devam etti.
“Bu vaka, Hükümetin Lordlar değişikliklerinin uygulanmasında neden daha fazla gecikmemesi gerektiğinin açık bir örneğidir” diye ekledi.
Adalet Bakanlığı sözcüsü, “Rıza olmadan oluşturulan cinsel içerikli deepfake’ler aşağılayıcı ve zararlıdır” dedi.
“Toplumumuzu lekeleyen kadınlara ve kız çocuklarına yönelik şiddete tahammül etmeyi reddediyoruz, bu nedenle bunların oluşturulmasını mümkün olan en kısa sürede yasaklamak için yasa çıkardık.”
Taylor Swift’in yüzünü içeren pornografik deepfake’ler 2024’te viral hale geldiğinde, X platformda adının aranmasını geçici olarak engelledi.
O zaman X, görüntüleri “aktif olarak kaldırdığını” ve bunları yaymakla ilgili hesaplara karşı “uygun eylemler” gerçekleştirdiğini söyledi.
Bayan Weatherbed, The Verge ekibinin bu önceki olay nedeniyle Grok Imagine özelliğini test etmek için Taylor Swift’i seçtiğini belirtti.
“Ünlülerin benzerliğini taklit etmelerini önlemek için herhangi bir türde güvenlik önlemi almış olsalardı – şimdi yanlış bir şekilde – bu tür sorunları yaşadıkları göz önüne alındığında, listede ilk sırada onun olacağını varsaydık” dedi.
Taylor Swift’in temsilcileri yorum için başvuruldu.
En iyi teknoloji hikayelerini ve trendlerini takip etmek için Tech Decoded bültenimize kaydolun. Birleşik Krallık dışında mısınız? Buradan kaydolun.
Peter, onu yaklaşık 3.500 £ dolandıran seri dolandırıcı Kerry Gray’in kurbanı oldu.
ABD’li bir gazeteci ile okulunda çıkan çatışmada öldürülen bir gencin yapay zeka klonu arasındaki bir röportaj, çevrimiçi olarak eleştirilere yol açtı.
Mağazada satılan robotlar arasında insansı uşaklar, satranç ortakları ve köpekler bulunmaktadır.
Yapay zekanın ortaya çıkışı, bazı firmaları İK ve BT departmanlarının daha yakın çalışmasını sağlamaya teşvik ediyor.
Başkan, emeklilik hesaplarına izin verilen yatırım türlerini genişletmeyi amaçlayan bir kararname imzaladı.