Un esperto di abusi online ha accusato il generatore di video AI di Elon Musk di “una scelta deliberata” di creare rappresentazioni sessualmente esplicite di Taylor Swift senza alcuna richiesta iniziale.
Clare McGlynn, professoressa di diritto che ha contribuito alla stesura di una legge che criminalizzerebbe i deepfake pornografici, ha dichiarato: “Questa non è misoginia per caso, è intenzionale”.
Secondo un rapporto di The Verge, la nuova modalità “spicy” di Grok Imagine ha prontamente prodotto “video senza censure e a seno nudo” della pop star, anche quando non è stato richiesto contenuto esplicito.
Il rapporto ha anche evidenziato l’assenza di protocolli adeguati di verifica dell’età, nonostante la loro implementazione come legge a luglio.
XAI, la società responsabile di Grok, è stata contattata per un commento sulle accuse.
In particolare, la stessa politica di utilizzo accettabile di XAI proibisce esplicitamente di “raffigurare somiglianze di persone in modo pornografico”.
“Il fatto che questo contenuto venga prodotto senza richiesta dimostra il pregiudizio misogino di gran parte della tecnologia AI”, ha affermato la Prof. McGlynn dell’Università di Durham.
“Piattaforme come X avrebbero potuto impedire tutto questo se avessero scelto di farlo, ma hanno fatto una scelta deliberata di non farlo”, ha aggiunto.
Questo incidente segna un altro caso in cui l’immagine di Taylor Swift è stata sfruttata in questo modo.
Nel gennaio 2024, deepfake sessualmente espliciti con le sue sembianze sono diventati virali, raccogliendo milioni di visualizzazioni su piattaforme come X e Telegram.
I deepfake sono immagini generate al computer che sostituiscono il volto di una persona con quello di un’altra.
Durante i test delle misure di sicurezza di Grok Imagine, Jess Weatherbed, una giornalista di The Verge, ha inserito il prompt: “Taylor Swift che festeggia Coachella con i ragazzi”.
Grok ha generato immagini fisse di Swift che indossava un vestito accanto a un gruppo di uomini.
Queste immagini potevano poi essere animate in brevi clip video con quattro diverse impostazioni: “normale”, “divertente”, “personalizzata” o “piccante”.
“Si è strappata [il vestito] immediatamente, non aveva altro che un perizoma con nappe sotto e ha iniziato a ballare, completamente senza censure, completamente esposta”, ha detto la signora Weatherbed a BBC News.
Ha aggiunto: “È stato scioccante quanto velocemente mi sia stata presentata la cosa – non ho assolutamente chiesto di rimuovere i suoi vestiti, tutto quello che ho fatto è stato selezionare l’opzione ‘piccante'”.
Gizmodo ha riportato casi simili di contenuti espliciti con protagoniste donne famose, anche se alcune ricerche hanno portato a video sfocati o a un messaggio di “video moderato”.
La BBC non è stata in grado di confermare in modo indipendente i risultati delle generazioni video AI.
La signora Weatherbed ha dichiarato di essersi abbonata alla versione a pagamento di Grok Imagine, al costo di £30, utilizzando un account Apple appena creato.
Sebbene Grok abbia richiesto la sua data di nascita, ha detto che non sono state messe in atto ulteriori misure di verifica dell’età.
In base alle nuove leggi britanniche entrate in vigore alla fine di luglio, le piattaforme che mostrano immagini esplicite devono verificare l’età degli utenti utilizzando metodi “tecnicamente accurati, robusti, affidabili ed equi”.
“I siti e le app che includono strumenti di Intelligenza Artificiale Generativa in grado di generare materiale pornografico sono regolamentati dalla legge”, ha detto il media regulator Ofcom a BBC News.
“Siamo consapevoli del rischio crescente e in rapido sviluppo che gli strumenti GenAI possono rappresentare nello spazio online, soprattutto per i bambini, e stiamo lavorando per garantire che le piattaforme mettano in atto adeguate misure di salvaguardia per mitigare questi rischi”, ha affermato.
Attualmente, la creazione di deepfake pornografici è illegale quando utilizzati nella revenge porn o nella raffigurazione di bambini.
La Prof. McGlynn ha assistito alla stesura di un emendamento alla legge che criminalizzerebbe la creazione o la richiesta di tutti i deepfake pornografici non consensuali.
Il governo si è impegnato a promulgare questo emendamento, ma non è ancora entrato in vigore.
“Ogni donna dovrebbe avere il diritto di scegliere chi possiede le immagini intime di lei”, ha detto la baronessa Owen, che ha proposto l’emendamento nella Camera dei Lord.
“È essenziale che questi modelli non vengano utilizzati in un modo che violi il diritto di una donna al consenso, che sia una celebrità o meno”, ha continuato Lady Owen in una dichiarazione rilasciata a BBC News.
“Questo caso è un chiaro esempio del motivo per cui il governo non deve ritardare ulteriormente l’attuazione degli emendamenti dei Lord”, ha aggiunto.
Un portavoce del Ministero della Giustizia ha dichiarato: “I deepfake sessualmente espliciti creati senza consenso sono degradanti e dannosi”.
“Ci rifiutiamo di tollerare la violenza contro le donne e le ragazze che macchia la nostra società, motivo per cui abbiamo approvato una legislazione per vietare la loro creazione il più rapidamente possibile”.
Quando i deepfake pornografici con il volto di Taylor Swift sono diventati virali nel 2024, X ha temporaneamente bloccato le ricerche per il suo nome sulla piattaforma.
All’epoca, X aveva detto che stava “attivamente rimuovendo” le immagini e prendendo “misure appropriate” contro gli account coinvolti nella loro diffusione.
La signora Weatherbed ha notato che il team di The Verge ha scelto Taylor Swift per testare la funzione Grok Imagine a causa di questo precedente incidente.
“Abbiamo ipotizzato – sbagliando ora – che se avessero messo in atto una sorta di salvaguardia per impedire loro di emulare le sembianze delle celebrità, lei sarebbe stata la prima della lista, visti i problemi che hanno avuto”, ha detto.
I rappresentanti di Taylor Swift sono stati contattati per un commento.
Iscriviti alla nostra newsletter Tech Decoded per seguire le principali storie e tendenze tecnologiche del mondo. Fuori dal Regno Unito? Iscriviti qui.
Peter è stato vittima del truffatore seriale Kerry Gray, che gli ha sottratto quasi 3.500 sterline.
Un’intervista tra un giornalista statunitense e un clone AI di un adolescente ucciso durante una sparatoria nella sua scuola ha suscitato critiche online.
I robot in vendita nel negozio includono maggiordomi umanoidi, partner di scacchi e cani.
L’emergere dell’IA sta spingendo alcune aziende a far lavorare più a stretto contatto i propri dipartimenti HR e IT.
Il presidente firma un ordine volto ad espandere i tipi di investimenti consentiti nei conti pensionistici.