Kaliforniya Başsavcısı, Elon Musk’ın xAI’ı tarafından geliştirilen yapay zeka modeli Grok tarafından üretilen cinsel içerikli AI deepfake’lerin yaygınlaşması üzerine bir soruşturma başlattı.
Başsavcı Rob Bonta bir açıklama yaparak soruşturmayı duyurdu ve şunları kaydetti: “xAI’ın son haftalarda çevrimiçi olarak ürettiği ve yaydığı rıza dışı, cinsel içerikli materyalleri ayrıntılarıyla anlatan raporların çokluğu derinden endişe verici.”
Grok’un arkasındaki şirket olan xAI, daha önce “Grok’u yasa dışı içerik oluşturmak için kullanan veya teşvik eden herkes, sanki yasa dışı içeriği kendileri yüklemiş gibi aynı sonuçlarla karşılaşacaktır” demişti.
Kaliforniya soruşturması, İngiliz Başbakanı Sir Keir Starmer’ın X’e karşı potansiyel eylemlere ilişkin uyarılarıyla aynı zamana denk geliyor.
Bonta Çarşamba günü yaptığı açıklamada, “Çıplak ve cinsel içerikli senaryolarda kadınları ve çocukları tasvir eden bu materyal, internette bireylere taciz etmek için kullanılmıştır” dedi.
Başsavcı, xAI’ı derhal düzeltici önlemler almaya çağırdı.
Kaliforniya Valisi Gavin Newsom da Çarşamba günü X’te xAI’ın “yırtıcılar için bir üreme alanı yaratma ve barındırma” kararının “kınanması gerektiğini” yazdı.
BBC, yorum almak için xAI ile iletişime geçti.
Musk Çarşamba günü X’te Grok tarafından oluşturulan herhangi bir çıplak reşit olmayan görüntüsünün farkında olmadığını belirtti. Kelimenin tam anlamıyla sıfır.”
Musk, “Açıkçası, Grok kendiliğinden görüntü oluşturmaz,” diye yazdı. “Sadece kullanıcı isteklerine göre yapar.”
Cumhuriyetçi bir bağışçı olan teknoloji girişimcisi, X’e yönelik eleştirilerin siyasi amaçlı olduğunu ve Grok tartışmasını sansür için bir bahane olarak kullandığını da öne sürdü.
Kasım ayında Wired dergisi, OpenAI ve Google dahil olmak üzere diğer AI şirketlerinin araçlarının da bireyleri dijital olarak soymak için kullanıldığını bildirdi.
Geçen hafta, üç ABD Demokrat senatörü Apple ve Google’dan X ve Grok’u ilgili uygulama mağazalarından kaldırmasını istedi.
İstekten birkaç saat sonra X, görüntü oluşturma aracını sınırlayarak yalnızca ücretli abonelere özel hale getirdi.
X ve Grok, Apple App Store ve Google Play’de hala mevcut.
Bu gelişme, ABD teknoloji şirketlerine AI platformlarında kullanıcılar tarafından yayınlanan içerikle ilgili olarak sağlanan yasal korumalarla ilgili devam eden tartışmaların ortasında ortaya çıkıyor.
1996 İletişim Ahlak Yasası’nın 230. Bölümü, çevrimiçi platformlara kullanıcı tarafından oluşturulan içerik için sorumluluktan yasal dokunulmazlık tanır.
Ancak Cornell Üniversitesi’nden Prof. James Grimmelmann, bu yasanın “yalnızca siteleri kullanıcılardan gelen üçüncü taraf içeriği için sorumluluktan koruduğunu, sitelerin kendilerinin ürettiği içeriği korumadığını” iddia ediyor.
Grimmelmann, xAI’ın görüntülerin sorumluluğunu kullanıcılara yüklemeye çalıştığını, ancak bu argümanın mahkemede geçerli olup olmadığı konusunda şüphelerini dile getirdi.
“Bu, kullanıcıların görüntüleri kendilerinin yaptığı ve ardından X’te paylaştığı bir durum değil,” dedi.
Bu durumda, “görüntüleri XAI’nın kendisi yapıyor. Bu, 230. Bölüm’ün uygulandığı şeyin dışında,” diye ekledi.
Oregon Senatörü Ron Wyden, ortak yazarı olduğu 230. Bölüm’ün yapay zeka tarafından oluşturulan görüntülere kadar uzanmadığını ve şirketlerin bu tür içerikten tamamen sorumlu olması gerektiğini savundu.
Wyden Çarşamba günü BBC’ye yaptığı açıklamada, “Kaliforniya gibi eyaletlerin Elon Musk’ın korkunç çocuk cinsel istismarı materyali üretecini soruşturmak için harekete geçtiğini görmek beni mutlu etti,” dedi.
Wyden, Apple ve Google’dan X ve Grok’u uygulama mağazalarından kaldırmasını isteyen üç Demokrat senatör arasında yer alıyor.
Kaliforniya’daki soruşturmanın duyurusu, İngiltere’nin rıza dışı mahrem görüntülerin oluşturulmasını suç sayacak bir yasa hazırlamasıyla aynı zamana denk geliyor.
İngiltere’nin düzenleyici kuruluşu Ofcom da Grok hakkında bir soruşturma başlattı.
Ofcom, platformun yasayı ihlal ettiğine karar verirse, dünya çapındaki gelirinin %10’una veya 18 milyon sterline kadar (hangisi daha büyükse) para cezası uygulayabilir.
Sir Keir Starmer Pazartesi günü İşçi Partisi milletvekillerine Musk’ın sosyal medya platformu X’in “kendini düzenleme hakkını” kaybedebileceğini söyledi ve “X Grok’u kontrol edemezse, biz edeceğiz” diye ekledi.
En önemli teknoloji haberlerini ve trendlerini takip etmek için Teknoloji Şifre Çözüldü bültenimize kaydolun. Birleşik Krallık dışındaysanız buradan kaydolun.
Bir meclis üyesi, Middlesbrough Konseyi’nin X platformunun kullanımına karşı savunuculuk yapmasını istediğini söylüyor.
Okul müdürü Jamie Barry, “platformu kullanmak istiyoruz, ancak güvenlik pahasına değil” diyor.
Amazon, Oxfordshire’da dört veri merkezi binası inşa etmek için planlama izni bekliyor.
Dijital Gelecek Laboratuvarı, yeni ortaya çıkan teknolojilerin araştırmada dahil olmak üzere nasıl kullanılabileceğini inceliyor.
Guernsey’in Mağdur Destek ve Tanık Hizmeti, mağdurlardaki artışın ‘endişe verici’ olduğunu söylüyor.