Eine Expertin für Online-Missbrauch hat Elon Musks KI-Videogenerator beschuldigt, „eine bewusste Entscheidung“ getroffen zu haben, sexuell explizite Darstellungen von Taylor Swift ohne jegliche anfängliche Aufforderung zu erstellen.
Clare McGlynn, eine Rechtsprofessorin, die an der Ausarbeitung von Gesetzen mitgewirkt hat, die pornografische Deepfakes kriminalisieren würden, erklärte: „Das ist kein Misogynie durch Zufall, sondern durch Design.“
Laut einem Bericht von The Verge produzierte der neue „spicy“-Modus von Grok Imagine bereitwillig „vollständig unzensierte Oben-ohne-Videos“ des Popstars, selbst wenn keine expliziten Inhalte angefordert wurden.
Der Bericht hob auch das Fehlen geeigneter Altersverifikationsprotokolle hervor, obwohl deren Implementierung im Juli als Gesetz erfolgte.
XAI, das für Grok verantwortliche Unternehmen, wurde um eine Stellungnahme zu den Vorwürfen gebeten.
Bemerkenswert ist, dass XAIs eigene Richtlinie zur akzeptablen Nutzung ausdrücklich „die Darstellung von Personen in pornografischer Weise“ verbietet.
„Die Tatsache, dass dieser Inhalt ohne Aufforderung produziert wird, demonstriert die frauenfeindliche Voreingenommenheit vieler KI-Technologien“, betonte Prof. McGlynn von der Durham University.
„Plattformen wie X hätten dies verhindern können, wenn sie sich dafür entschieden hätten, aber sie haben eine bewusste Entscheidung getroffen, dies nicht zu tun“, fügte sie hinzu.
Dieser Vorfall ist ein weiteres Beispiel dafür, wie Taylor Swifts Bild auf diese Weise ausgebeutet wurde.
Im Januar 2024 gingen sexuell explizite Deepfakes mit ihrem Konterfei viral und erreichten Millionen von Aufrufen auf Plattformen wie X und Telegram.
Deepfakes sind computergenerierte Bilder, die das Gesicht einer Person durch das einer anderen ersetzen.
Während des Testens der Schutzmaßnahmen von Grok Imagine gab Jess Weatherbed, eine Nachrichtenredakteurin von The Verge, die Aufforderung ein: „Taylor Swift feiert Coachella mit den Jungs“.
Grok generierte Standbilder von Swift in einem Kleid neben einer Gruppe von Männern.
Diese Bilder konnten dann in kurze Videoclips unter vier verschiedenen Einstellungen animiert werden: „normal“, „fun“, „custom“ oder „spicy“.
„Sie riss [das Kleid] sofort ab, hatte nichts als einen Quasten-Tanga darunter und begann zu tanzen, völlig unzensiert, völlig entblößt“, sagte Frau Weatherbed gegenüber BBC News.
Sie fügte hinzu: „Es war schockierend, wie schnell ich damit konfrontiert wurde – ich habe in keiner Weise darum gebeten, ihre Kleidung zu entfernen, ich habe lediglich die Option ’spicy‘ ausgewählt.“
Gizmodo berichtete über ähnliche Fälle von expliziten Inhalten mit berühmten Frauen, obwohl einige Suchanfragen zu verschwommenen Videos oder einer Meldung „Video moderiert“ führten.
Die BBC konnte die Ergebnisse der KI-Videogenerierungen nicht unabhängig bestätigen.
Frau Weatherbed gab an, dass sie die kostenpflichtige Version von Grok Imagine für 30 Pfund mit einem neu erstellten Apple-Konto abonniert habe.
Während Grok nach ihrem Geburtsdatum fragte, sagte sie, dass keine weiteren Altersverifikationsmaßnahmen vorhanden waren.
Gemäß neuen britischen Gesetzen, die Ende Juli in Kraft traten, müssen Plattformen, die explizite Bilder anzeigen, das Alter der Benutzer mit Methoden überprüfen, die „technisch genau, robust, zuverlässig und fair“ sind.
„Websites und Apps, die Generative KI-Tools enthalten, die pornografisches Material generieren können, werden durch das Gesetz reguliert“, teilte die Medienaufsichtsbehörde Ofcom BBC News mit.
„Wir sind uns des zunehmenden und sich schnell entwickelnden Risikos bewusst, das GenAI-Tools im Online-Bereich, insbesondere für Kinder, darstellen können, und wir arbeiten daran, sicherzustellen, dass Plattformen geeignete Schutzmaßnahmen ergreifen, um diese Risiken zu mindern“, hieß es.
Derzeit ist die Erstellung pornografischer Deepfakes illegal, wenn sie in Rachepornos verwendet werden oder Kinder darstellen.
Prof. McGlynn half bei der Ausarbeitung einer Gesetzesänderung, die die Erstellung oder Anforderung aller nicht einvernehmlichen pornografischen Deepfakes kriminalisieren würde.
Die Regierung hat zugesagt, diese Änderung zu erlassen, sie ist jedoch noch nicht in Kraft getreten.
„Jede Frau sollte das Recht haben, zu wählen, wem intime Bilder von ihr gehören“, sagte Baroness Owen, die die Änderung im House of Lords vorschlug.
„Es ist wichtig, dass diese Modelle nicht auf eine Weise verwendet werden, die das Recht einer Frau auf Einwilligung verletzt, egal ob sie eine Berühmtheit ist oder nicht“, fuhr Lady Owen in einer Erklärung gegenüber BBC News fort.
„Dieser Fall ist ein klares Beispiel dafür, warum die Regierung die Umsetzung der Lords-Änderungen nicht weiter verzögern darf“, fügte sie hinzu.
Ein Sprecher des Justizministeriums erklärte: „Sexuell explizite Deepfakes, die ohne Zustimmung erstellt wurden, sind entwürdigend und schädlich.“
„Wir weigern uns, die Gewalt gegen Frauen und Mädchen zu tolerieren, die unsere Gesellschaft befleckt, weshalb wir Gesetze verabschiedet haben, um ihre Entstehung so schnell wie möglich zu verbieten.“
Als pornografische Deepfakes mit Taylor Swifts Gesicht im Jahr 2024 viral gingen, blockierte X vorübergehend die Suche nach ihrem Namen auf der Plattform.
Damals sagte X, dass es die Bilder „aktiv entfernt“ und „angemessene Maßnahmen“ gegen die Konten ergreift, die an ihrer Verbreitung beteiligt sind.
Frau Weatherbed merkte an, dass das Team von The Verge Taylor Swift ausgewählt hat, um die Grok Imagine-Funktion aufgrund dieses vorherigen Vorfalls zu testen.
„Wir haben – fälschlicherweise jetzt – angenommen, dass, wenn sie irgendwelche Schutzmaßnahmen getroffen hätten, um zu verhindern, dass sie das Aussehen von Prominenten nachahmen, sie an erster Stelle stehen würde, angesichts der Probleme, die sie hatten“, sagte sie.
Vertreter von Taylor Swift wurden um eine Stellungnahme gebeten.
Melden Sie sich für unseren Tech Decoded Newsletter an, um die wichtigsten Tech-Nachrichten und -Trends der Welt zu verfolgen. Außerhalb Großbritanniens? Melden Sie sich hier an.
Peter wurde Opfer des Serienbetrügers Kerry Gray, der ihm fast 3.500 Pfund abknöpfte.
Ein Interview zwischen einem US-Journalisten und einem KI-Klon eines Teenagers, der bei einer Schießerei an seiner Schule getötet wurde, hat online Kritik hervorgerufen.
Zu den im Geschäft zum Verkauf stehenden Robotern gehören humanoide Butler, Schachpartner und Hunde.
Das Aufkommen von KI veranlasst einige Unternehmen, ihre Personal- und IT-Abteilungen enger zusammenarbeiten zu lassen.
Der Präsident unterzeichnet eine Anordnung, die darauf abzielt, die Arten von Investitionen zu erweitern, die in Altersvorsorgekonten zulässig sind.