Technologieministerin Liz Kendall hat ihre Unterstützung für regulatorische Maßnahmen durch Ofcom zum Ausdruck gebracht, die potenziell auch die Blockierung des Zugangs zur Social-Media-Plattform X von Elon Musk in Großbritannien beinhalten könnten, sollte die Plattform die Online-Sicherheitsgesetze nicht einhalten.
Ofcom prüft derzeit seine Optionen bezüglich des KI-Chatbots Grok von X, nachdem Berichte über das Tool aufgetaucht sind, das digital veränderte Bilder von Personen ohne deren Zustimmung erzeugt. Diese Funktion wurde Berichten zufolge ausgelöst, wenn Benutzer unter auf der Plattform veröffentlichten Bildern markiert wurden. X hat den Zugriff auf diese Bildmanipulationsfunktion inzwischen auf zahlende Abonnenten beschränkt.
Downing Street hat diese Änderung jedoch als „beleidigend“ für Opfer sexueller Gewalt bezeichnet.
Als Reaktion darauf postete Musk auf X und behauptete, die britische Regierung suche „jede Ausrede für Zensur“, und antwortete auf einen Beitrag, der die auf andere KI-Plattformen angewandte Prüfung in Frage stellte.
Ministerin Kendall verurteilte die Handlungen und erklärte: „Sexuelle Manipulationen an Bildern von Frauen und Kindern sind verabscheuungswürdig und abscheulich.“
Sie fügte hinzu: „Ich und, was noch wichtiger ist, die Öffentlichkeit, würde erwarten, dass Ofcom in Tagen, nicht in Wochen, über die nächsten Schritte informiert.“
Kendall betonte, dass das Online-Sicherheitsgesetz „die Befugnis einschließt, den Zugriff auf Dienste in Großbritannien zu blockieren, wenn sie sich weigern, das britische Recht einzuhalten“, und bekräftigte, dass „wenn Ofcom beschließt, diese Befugnisse zu nutzen, sie unsere volle Unterstützung haben werden.“
Die BBC hat X um einen Kommentar gebeten.
Ein Sprecher von Ofcom sagte: „Wir haben am Montag dringend Kontakt [mit X] aufgenommen und eine feste Frist bis heute [Freitag] gesetzt, um sich zu erklären, woraufhin wir eine Antwort erhalten haben.“
„Wir führen nun dringend eine beschleunigte Bewertung durch und werden in Kürze weitere Updates bereitstellen.“
Die Befugnisse von Ofcom gemäß dem Online-Sicherheitsgesetz umfassen die Möglichkeit, Gerichtsbeschlüsse zu erwirken, um zu verhindern, dass Dritte die Umsatzerzeugung oder die Zugänglichkeit von X in Großbritannien ermöglichen, falls die Plattform die Bestimmungen nicht einhält.
Diese Maßnahmen zur Unterbrechung des Geschäftsbetriebs sind zum jetzigen Zeitpunkt weitgehend unerprobt.
Der Einsatz von Grok zur Erzeugung nicht einvernehmlicher sexualisierter Bilder hat über das gesamte politische Spektrum hinweg Verurteilung hervorgerufen, wobei Premierminister Sir Keir Starmer es als „schändlich“ und „ekelhaft“ bezeichnete.
Nigel Farage, der Vorsitzende von Reform UK, beschrieb die Situation als „in jeder Hinsicht schrecklich“ und argumentierte, dass X „weiter gehen muss“ als seine jüngsten Änderungen an Grok.
Farage bezeichnete die Aussicht auf ein Verbot von X in Großbritannien jedoch als „ehrlich gesagt entsetzlich“ und als Affront gegen die freie Meinungsäußerung.
Die Liberaldemokraten haben sich für eine vorübergehende Einschränkung des Zugangs zu X in Großbritannien ausgesprochen, bis eine gründliche Untersuchung der Social-Media-Plattform durchgeführt wurde.
Grok ist ein kostenloses Tool, mit dem Benutzer direkt in Beiträgen oder Antworten interagieren können, um bestimmte Antworten zu erhalten.
Das Tool ist weiterhin in der Lage, Bilder auf X über alternative Wege zu bearbeiten, z. B. über die integrierte „Bild bearbeiten“-Funktion der Plattform oder über ihre separate App und Website.
Es sind zahlreiche Anfragen aufgetaucht, die die Veränderung von Bildern von Frauen beinhalten, um sie in Bikinis oder knapper Kleidung darzustellen, Aktionen, die Personen, die solchen Anfragen ausgesetzt waren, gegenüber der BBC als Gefühle der „Demütigung“ und „Entmenschlichung“ beschrieben haben.
Seit Freitagmorgen informiert Grok Benutzer, die versuchen, auf X hochgeladene Bilder zu ändern, dass „Bilderzeugung und -bearbeitung derzeit auf zahlende Abonnenten beschränkt sind“, und fordert Benutzer auf, „ein Abonnement abzuschließen, um diese Funktionen freizuschalten“.
Beobachtungen auf der Plattform, die von BBC News geprüft wurden, deuten darauf hin, dass nur „verifizierte“ Konten mit dem blauen Häkchen, das es exklusiv für X’s kostenpflichtige Abonnementstufe gibt, erfolgreich Bildänderungen über Grok anfordern konnten.
Dr. Daisy Dixon, Philosophie-Dozentin an der Cardiff University und X-Nutzerin, die einen Anstieg der Verwendung von Grok zum digitalen Entkleiden ihrer Person meldete, begrüßte die Änderung, bezeichnete sie aber als „wie ein Pflaster“.
„Grok muss komplett überarbeitet und mit eingebauten ethischen Leitplanken versehen werden, um zu verhindern, dass dies jemals wieder passiert“, sagte sie der BBC.
„Elon Musk muss dies auch als das anerkennen, was es ist – ein weiterer Fall von geschlechtsspezifischer Gewalt.“
Hannah Swirsky, Leiterin der Politikabteilung der Internet Watch Foundation, erklärte, dass die Änderung „den entstandenen Schaden nicht ungeschehen macht“.
„Wir glauben nicht, dass es gut genug ist, den Zugriff auf ein Tool einfach einzuschränken, das niemals die Fähigkeit hätte haben dürfen, die Art von Bildern zu erstellen, die wir in den letzten Tagen gesehen haben“, sagte sie.
Die Wohltätigkeitsorganisation berichtete zuvor, dass ihre Analysten „kriminelle Bilder“ von Mädchen im Alter zwischen 11 und 13 Jahren entdeckt hatten, die „anscheinend mit Grok erstellt worden waren“.
Zunehmend äußern Labour-Abgeordnete Unzufriedenheit mit der Abhängigkeit der Partei von X für die Verbreitung ihrer politischen Botschaften.
Durchgesickerte Nachrichten aus der WhatsApp-Gruppe der Parliamentary Labour Party, die zur Verteilung von Ankündigungen für Labour-Hinterbänkler zur Weitergabe in den sozialen Medien verwendet wird, zeigen, dass mindestens 13 Labour-Abgeordnete die Regierung aufgefordert haben, die Nutzung der Plattform einzustellen.
Die Nachrichten, die ursprünglich von Politics Home veröffentlicht und von BBC News geprüft wurden, zeigen, dass Labour-Abgeordnete die Regierung auffordern, „Haltung zu beziehen“ und „unsere Botschaften an anderen Orten zu verbreiten“.
Ein Abgeordneter erklärte: „Wie einige von uns seit Musks faschistischem Gebaren gefordert haben, sollte unsere Regierung anstelle von X eine andere Plattform nutzen.“
Ein anderer kommentierte: „Alle Bilder von Kindern (und Frauen) in der Regierungskommunikation auf X gefährden diese Kinder.“
Früher am Freitag deutete Downing Street an, dass die Regierung weiterhin auf X posten werde.
Der offizielle Sprecher des Premierministers sagte gegenüber Reportern, dass Änderungen an der Art und Weise, wie Grok Benutzeranfragen zur Bearbeitung von Bildern auf der Plattform nachkommt, zeigten, dass X „sich schnell bewegen kann, wenn es will“.
Er sagte, es sei „völlig klar, dass X handeln muss und zwar jetzt“.
„Es ist an der Zeit, dass X dieses Problem in den Griff bekommt. Wenn ein anderes Medienunternehmen Plakatwände in Stadtzentren mit rechtswidrigen Bildern hätte, würde es sofort handeln, um diese abzunehmen, oder mit öffentlichen Reaktionen rechnen“, fügte er hinzu.
Melden Sie sich für unseren Tech Decoded-Newsletter an, um die wichtigsten Tech-Geschichten und -Trends der Welt zu verfolgen. Außerhalb des Vereinigten Königreichs? Melden Sie sich hier an.
Einige sagen, sie hätten seit dem Verbot das Interesse an sozialen Medien verloren, während andere sagen, dass sich nichts geändert hat.
Die Suche nach vermissten Wanderern und Bergsteigern in abgelegenen Gebieten kann Retter Wochen und manchmal Monate kosten. KI kann die Aufgabe in einigen Fällen in wenigen Stunden erledigen – und möglicherweise Leben retten.
Das Unternehmen sagt, dass sein Chatbot jede Woche Gesundheits- und Wohlbefindensfragen von 230 Millionen Menschen sieht.
Es sagte, dass Analysten die Bilder in einem Dark-Web-Forum von Nutzern entdeckt hätten, die behaupteten, Grok verwendet zu haben
Faisal Islam erhält seltenen Zugang zu Willow – dem Quantencomputer von Google.