Der Generalstaatsanwalt von Kalifornien hat eine Untersuchung zur Verbreitung von sexuell eindeutigen KI-Deepfakes eingeleitet, die von Grok, dem von Elon Musks xAI entwickelten KI-Modell, generiert werden.
Generalstaatsanwalt Rob Bonta kündigte die Untersuchung in einer Erklärung an und bemerkte: „Die Flut von Berichten, die das nicht einvernehmliche, sexuell eindeutige Material detailliert beschreiben, das xAI in den letzten Wochen produziert und online verbreitet hat, ist zutiefst besorgniserregend.“
xAI, das Unternehmen hinter Grok, hat zuvor erklärt, dass „jeder, der Grok verwendet oder dazu auffordert, illegale Inhalte zu erstellen, die gleichen Konsequenzen tragen wird, als ob er selbst illegale Inhalte hochgeladen hätte.“
Die kalifornische Untersuchung fällt mit Warnungen des britischen Premierministers Sir Keir Starmer bezüglich möglicher Maßnahmen gegen X zusammen.
In der Erklärung vom Mittwoch betonte Bonta: „Dieses Material, das Frauen und Kinder in Nackt- und sexuell eindeutigen Szenarien darstellt, wurde genutzt, um Einzelpersonen im Internet zu belästigen.“
Der Generalstaatsanwalt forderte xAI auf, unverzüglich Korrekturmaßnahmen zu ergreifen.
Der kalifornische Gouverneur Gavin Newsom, ebenfalls ein Demokrat, postete am Mittwoch auf X, dass die Entscheidung von xAI, „einen Nährboden für Raubtiere zu schaffen und zu hosten… verwerflich ist.“
Die BBC hat xAI um einen Kommentar gebeten.
Am Mittwoch postete Musk auf X und erklärte, er sei sich „keiner nackten Bilder von Minderjährigen bewusst, die von Grok generiert wurden. Buchstäblich null.“
„Offensichtlich generiert Grok nicht spontan Bilder“, schrieb Musk. „Es tut dies nur auf Benutzeranfrage.“
Der Tech-Unternehmer, ein republikanischer Spender, hat auch angedeutet, dass Kritik an X politisch motiviert ist und die Grok-Kontroverse als Vorwand für Zensur benutzt.
Im November berichtete das Magazin Wired, dass Tools von anderen KI-Unternehmen, darunter OpenAI und Google, ebenfalls verwendet wurden, um Personen digital zu entkleiden.
Letzte Woche forderten drei US-amerikanische demokratische Senatoren Apple und Google auf, X und Grok aus ihren jeweiligen App Stores zu entfernen.
Innerhalb weniger Stunden nach der Anfrage beschränkte X sein Bildgenerierungstool und machte es exklusiv für zahlende Abonnenten.
X und Grok sind weiterhin im Apple App Store und bei Google Play verfügbar.
Diese Entwicklung kommt inmitten einer laufenden Debatte über den rechtlichen Schutz, der US-amerikanischen Technologieunternehmen in Bezug auf Inhalte gewährt wird, die von Nutzern auf KI-Plattformen veröffentlicht werden.
Abschnitt 230 des Communications Decency Act von 1996 gewährt Online-Plattformen rechtliche Immunität von der Haftung für von Nutzern generierte Inhalte.
Prof. James Grimmelmann von der Cornell University argumentiert jedoch, dass dieses Gesetz „Websites nur vor der Haftung für Inhalte Dritter von Nutzern schützt, nicht aber vor Inhalten, die die Websites selbst produzieren.“
Grimmelmann erklärte, dass xAI versuche, die Verantwortung für die Bilder auf die Nutzer abzuwälzen, äußerte jedoch Skepsis hinsichtlich der Durchsetzbarkeit dieses Arguments vor Gericht.
„Dies ist kein Fall, in dem Nutzer die Bilder selbst erstellen und sie dann auf X teilen“, sagte er.
In diesem Fall „erstellt xAI selbst die Bilder. Das fällt nicht unter den Anwendungsbereich von Abschnitt 230“, fügte er hinzu.
Senator Ron Wyden aus Oregon hat argumentiert, dass sich Abschnitt 230, den er mitverfasst hat, nicht auf KI-generierte Bilder erstreckt, und betont, dass Unternehmen für solche Inhalte voll verantwortlich sein sollten.
„Ich bin froh zu sehen, dass Staaten wie Kalifornien sich einschalten, um Elon Musks entsetzlichen Generator für sexuelle Missbrauchsdarstellungen von Kindern zu untersuchen“, sagte Wyden am Mittwoch gegenüber der BBC.
Wyden gehört zu den drei demokratischen Senatoren, die Apple und Google aufgefordert haben, X und Grok aus ihren App Stores zu entfernen.
Die Ankündigung der Untersuchung in Kalifornien erfolgt zu einem Zeitpunkt, an dem das Vereinigte Königreich Gesetze vorbereitet, die die Erstellung nicht einvernehmlicher intimer Bilder unter Strafe stellen würden.
Die britische Regulierungsbehörde Ofcom hat ebenfalls eine Untersuchung gegen Grok eingeleitet.
Wenn Ofcom feststellt, dass die Plattform gegen das Gesetz verstoßen hat, kann sie Geldstrafen von bis zu 10 % des weltweiten Umsatzes oder 18 Millionen Pfund verhängen, je nachdem, welcher Betrag höher ist.
Am Montag informierte Sir Keir Starmer die Labour-Abgeordneten, dass Musks Social-Media-Plattform X das „Recht auf Selbstregulierung“ verlieren könnte, und fügte hinzu: „Wenn X Grok nicht kontrollieren kann, werden wir es tun.“
Melden Sie sich für unseren Tech Decoded Newsletter an, um die wichtigsten Tech-Geschichten und -Trends der Welt zu verfolgen. Außerhalb Großbritanniens? Melden Sie sich hier an.
Ein Stadtrat sagt, er möchte, dass der Stadtrat von Middlesbrough sich gegen die Nutzung der Plattform X einsetzt.
Schulleiter Jamie Barry sagt: „Wir wollen die Plattform nutzen, aber nicht auf Kosten der Sicherheit“.
Amazon wartet auf die Baugenehmigung für den Bau von vier Rechenzentrumsgebäuden in Oxfordshire.
Das Digital Futures Lab untersucht, wie neue Technologien eingesetzt werden können, auch in der Forschung.
Die Opferhilfe und der Zeugendienst von Guernsey sagen, der Anstieg der Opfer sei ‚besorgniserregend‘.