Ofcom, Elon Musk’ın yapay zeka şirketi xAI ile, Grok yapay zeka aracının “çocukların cinsel içerikli görüntülerini” oluşturabildiği ve kadınları dijital olarak soyabildiği yönündeki raporların ardından “acil iletişim” başlattı.
Düzenleyici kurumun bir sözcüsü, Grok’un iddiaya göre bireylerin “çıplak görüntülerini” üretmesiyle ilgili endişeleri de araştırdıklarını belirtti.
X henüz yorum taleplerine yanıt vermedi. Platform, Pazar günü kullanıcı tabanına bir uyarı yayınlayarak, Grok’u çocuk cinsel istismarı materyali de dahil olmak üzere yasa dışı içerik oluşturmak için kullanmaya karşı uyardı.
Elon Musk, yapay zekaya yasa dışı içerik oluşturması talimatını veren kişilerin, materyali doğrudan yüklemiş gibi “aynı sonuçlara katlanacağını” belirten bir açıklama yayınladı.
XAI’nin resmi kabul edilebilir kullanım politikası, “kişilerin benzerliklerini pornografik bir şekilde tasvir etmeyi” açıkça yasaklamaktadır. Ancak, raporlar kullanıcıların Grok’u uygun yetkilendirme olmadan kişileri dijital olarak soymak için kullandığını gösteriyor.
Galler Prensesi Catherine’in görüntüleri, Grok kullanıcıları tarafından X’te kıyafetleri olmadan tasvir edilerek değiştirilenler arasındaydı.
BBC, yorum almak için Kensington Sarayı’na ulaştı.
Avrupa Komisyonu, “bu konuyu ciddiyetle incelediğini” ve Fransa, Malezya ve Hindistan’daki yetkililerin durumu değerlendirdiği bildirildi.
İngiltere’nin İnternet İzleme Vakfı, BBC’ye Grok tarafından X’te oluşturulan görüntülerle ilgili olarak halktan raporlar aldığını doğruladı.
Ancak kuruluş, henüz İngiltere’nin çocuk cinsel istismarı görüntüsü olarak sınıflandırılacak yasal eşiğini aşan görüntüler belirlemediğini belirtti.
Grok, X kullanıcılarından gönderilerinde onu etiketleyen istemlere yanıt veren, isteğe bağlı premium özelliklere sahip ücretsiz bir sanal asistan olarak işlev görüyor.
Kullanıcıların yapay zekayı kendisinin bikinili resimlerini oluşturmak için kullandığını keşfeden gazeteci Samantha Smith, Cuma günü BBC’nin PM programıyla paylaştığı deneyiminde “insanlıktan çıkarılmış ve cinsel bir stereotipe indirgenmiş” hissettiğini söyledi.
“Çıplak olan ben olmasam da, bana benziyordu ve benim gibi hissettiriyordu ve sanki birisi benim çıplak veya bikinili bir resmimi yayınlamış gibi ihlal ediciydi,” dedi.
Çevrimiçi Güvenlik Yasası (OSA) uyarınca Ofcom, bir bireyin açık rızası olmadan yapay zeka tarafından oluşturulan “deepfake”ler de dahil olmak üzere mahrem veya cinsel içerikli görüntülerin oluşturulmasını veya dağıtılmasını yasa dışı olarak tanımlıyor.
Teknoloji şirketleri ayrıca, İngiliz kullanıcıların bu tür içerikle karşılaşma riskini azaltmak ve bildirim üzerine “hızlı bir şekilde” kaldırmak için “uygun adımlar” atmakla yükümlüdür.
Bilim, İnovasyon ve Teknoloji Komitesi Başkanı Dame Chi Onwurah, raporları “derinden rahatsız edici” olarak nitelendirdi.
Komitenin OSA’yı “son derece yetersiz” bulduğunu ve “sosyal medya şirketleri cezasız kalırken İngiliz vatandaşlarının nasıl korunmasız bırakıldığının şok edici bir örneği” olarak nitelendirdiğini belirtti.
Hükümeti, sosyal medya platformlarını “içeriklerinden daha fazla sorumluluk almaya” zorlayan Komite’nin tavsiyelerini benimsemeye çağırdı.
Avrupa Komisyonu sözcüsü Thomas Regnier Pazartesi günü, Grok tarafından yapılan “açık cinsel içerik” gösteren ve ayrıca “çocuksu görüntülerle oluşturulmuş bazı çıktıları” gösteren gönderilerin farkında olduklarını söyledi.
“Bu yasa dışı,” dedi ve bunun “korkunç” ve “iğrenç” olduğunu da ekledi.
“Biz bunu böyle görüyoruz ve bunun Avrupa’da yeri yok,” dedi.
Regnier, X’in AB’nin dijital platformlar için kurallarını uygulamada “çok ciddi” olduğunun “çok iyi farkında” olduğunu söyledi – Aralık ayında Dijital Hizmetler Yasası’nı ihlal ettiği için X’e 120 milyon € (104 milyon £) para cezası verdi.
İçişleri Bakanlığı sözcüsü, nudifikasyon araçlarını yasaklamak için yasa çıkardığını ve yeni bir ceza hukuku suçu kapsamında bu tür teknolojileri sağlayan herkesin “hapis cezası ve önemli para cezalarıyla karşı karşıya kalacağını” söyledi.
En iyi teknoloji hikayelerini ve trendlerini takip etmek için Teknoloji Şifresi Çözüldü bültenimize kaydolun. Birleşik Krallık dışında mı? Buradan kaydolun.
Bazı büyük perakendeciler ve bağımsız mağazalar, mağaza hırsızlığı gibi suçları tespit etmek için yapay zeka vücut taramaları, CCTV veya yüz tanıma ekipmanları kullanmaya başladı.
Northumberland İlçe Konseyi, yapay zekanın sel planlama kararlarını nasıl hızlandırabileceğini test ediyor.
Drone verilerini işlemek saatler alabilirken, bir yapay zeka aracı bu işi saniyeler içinde yapıyor.
Birkaç uzmana 2050’ye kadar kullanacağımız teknolojiyi tahmin etmelerini istedik
Bu, Çinli firmanın yıllık satışlarda Amerikalı rakibini ilk kez geride bırakması anlamına geliyor.