Il Procuratore Generale della California ha avviato un’indagine sulla proliferazione di deepfake sessualmente espliciti generati da Grok, il modello di intelligenza artificiale sviluppato da xAI di Elon Musk.
Il Procuratore Generale Rob Bonta ha annunciato l’indagine in una dichiarazione, osservando: “La valanga di segnalazioni che descrivono in dettaglio il materiale non consensuale, sessualmente esplicito che xAI ha prodotto e diffuso online nelle ultime settimane è profondamente preoccupante.”
xAI, la società dietro Grok, ha precedentemente affermato che “chiunque utilizzi o spinga Grok a creare contenuti illegali dovrà affrontare le stesse conseguenze come se avesse caricato lui stesso contenuti illegali.”
L’inchiesta californiana coincide con gli avvertimenti del Primo Ministro britannico Sir Keir Starmer riguardo a potenziali azioni contro X.
Nella dichiarazione di mercoledì, Bonta ha affermato: “Questo materiale, che ritrae donne e bambini in scenari nudi e sessualmente espliciti, è stato sfruttato per molestare individui su Internet.”
Il Procuratore Generale ha esortato xAI ad adottare immediate misure correttive.
Il governatore della California Gavin Newsom, anch’egli democratico, ha pubblicato su X mercoledì che la decisione di xAI di “creare e ospitare un terreno fertile per i predatori… è riprovevole.”
La BBC ha contattato xAI per un commento.
Mercoledì, Musk ha postato su X affermando di “non essere a conoscenza di immagini di minorenni nudi generate da Grok. Letteralmente zero.”
“Ovviamente, Grok non genera immagini spontaneamente”, ha scritto Musk. “Lo fa solo in base alle richieste degli utenti.”
L’imprenditore tecnologico, un donatore repubblicano, ha anche suggerito che le critiche a X siano politicamente motivate e utilizzino la controversia di Grok come pretesto per la censura.
A novembre, la rivista Wired ha riferito che strumenti di altre società di intelligenza artificiale, tra cui OpenAI e Google, sono stati utilizzati anche per svestire digitalmente le persone.
La scorsa settimana, tre senatori democratici statunitensi hanno chiesto ad Apple e Google di rimuovere X e Grok dai rispettivi app store.
Poche ore dopo la richiesta, X ha limitato il suo strumento di generazione di immagini, rendendolo esclusivo per gli abbonati paganti.
X e Grok rimangono disponibili su Apple App Store e Google Play.
Questo sviluppo arriva nel mezzo di un dibattito in corso riguardo alle protezioni legali fornite alle società tecnologiche statunitensi in merito ai contenuti pubblicati dagli utenti sulle piattaforme di intelligenza artificiale.
La sezione 230 del Communications Decency Act del 1996 concede alle piattaforme online l’immunità legale dalla responsabilità per i contenuti generati dagli utenti.
Tuttavia, il Prof. James Grimmelmann della Cornell University sostiene che questa legge “protegge solo i siti dalla responsabilità per i contenuti di terzi provenienti dagli utenti, non i contenuti prodotti dai siti stessi.”
Grimmelmann ha affermato che xAI sta tentando di scaricare la responsabilità delle immagini sugli utenti, ma ha espresso scetticismo sulla praticabilità di questa argomentazione in tribunale.
“Questo non è un caso in cui gli utenti stanno creando le immagini da soli e poi le condividono su X”, ha detto.
In questo caso, “è xAI stesso che sta creando le immagini. Questo è al di fuori di ciò a cui si applica la Sezione 230”, ha aggiunto.
Il senatore Ron Wyden dell’Oregon ha sostenuto che la Sezione 230, di cui è coautore, non si estende alle immagini generate dall’intelligenza artificiale, affermando che le aziende dovrebbero essere pienamente responsabili di tali contenuti.
“Sono contento di vedere stati come la California farsi avanti per indagare sull’orribile generatore di materiale pedopornografico di Elon Musk”, ha detto Wyden alla BBC mercoledì.
Wyden è tra i tre senatori democratici che hanno chiesto ad Apple e Google di rimuovere X e Grok dai loro app store.
L’annuncio dell’indagine in California arriva mentre il Regno Unito prepara una legislazione che criminalizzerebbe la creazione di immagini intime non consensuali.
L’organismo di regolamentazione del Regno Unito, Ofcom, ha anche avviato un’indagine su Grok.
Se Ofcom stabilisce che la piattaforma ha violato la legge, può imporre multe fino al 10% del suo fatturato mondiale o 18 milioni di sterline, a seconda di quale sia il maggiore.
Lunedì, Sir Keir Starmer ha informato i parlamentari laburisti che la piattaforma di social media X di Musk potrebbe perdere il “diritto all’autoregolamentazione”, aggiungendo che “se X non può controllare Grok, lo faremo noi.”
Iscriviti alla nostra newsletter Tech Decoded per seguire le principali storie e tendenze tecnologiche del mondo. Fuori dal Regno Unito? Iscriviti qui.
Un consigliere dice di volere che il consiglio di Middlesbrough si batta contro l’uso della piattaforma X.
Il preside Jamie Barry dice “vogliamo usare la piattaforma, ma non a scapito della sicurezza”.
Amazon è in attesa del permesso di pianificazione per costruire quattro edifici per data center nell’Oxfordshire.
Il Digital Futures Lab esamina come le tecnologie emergenti possono essere utilizzate, anche nella ricerca.
Il servizio di supporto alle vittime e testimoni di Guernsey afferma che l’aumento delle vittime è “preoccupante”.