„`html
Technologieministerin Liz Kendall hat von Elon Musks X nach Berichten, dass dessen KI-Chatbot Grok dazu verwendet wird, nicht einvernehmliche sexualisierte Bilder von Frauen und Mädchen zu erstellen, dringende Maßnahmen gefordert.
Die BBC hat mehrere Fälle auf X geprüft, in denen Benutzer den Bot aufforderten, Bilder von Personen digital zu manipulieren, wodurch der Eindruck von Nacktheit erweckt oder diese ohne deren Zustimmung in sexuelle Zusammenhänge gebracht wurden.
Ministerin Kendall verurteilte die Situation als „absolut entsetzlich“ und erklärte: „Wir können und werden die Verbreitung dieser entwürdigenden Bilder nicht zulassen.“
In einer Erklärung erklärte X: „Wir ergreifen Maßnahmen gegen illegale Inhalte auf X, einschließlich Material über sexuellen Missbrauch von Kindern (CSAM), indem wir es entfernen, Konten dauerhaft sperren und bei Bedarf mit lokalen Regierungen und Strafverfolgungsbehörden zusammenarbeiten.“
„Jeder, der Grok verwendet oder auffordert, illegale Inhalte zu erstellen, wird die gleichen Konsequenzen erleiden, als ob er illegale Inhalte hochladen würde“, heißt es weiter in der Erklärung.
Am Montag kündigte die Aufsichtsbehörde Ofcom an, dass sie „dringenden Kontakt“ mit Elon Musks Firma xAI aufgenommen habe und Bedenken untersucht, dass Grok „entkleidete Bilder“ von Personen produziert habe.
Ministerin Kendall hat ihre Unterstützung für die Maßnahmen von Ofcom zum Ausdruck gebracht.
„Es ist absolut richtig, dass Ofcom dies dringend untersucht, und es hat meine volle Unterstützung, alle Durchsetzungsmaßnahmen zu ergreifen, die es für notwendig erachtet“, erklärte sie.
Grok ist ein kostenloser KI-Assistent mit optionalen Premium-Funktionen, der auf Anfragen von X-Benutzern reagiert, wenn er in einem Beitrag markiert wird.
Er wird häufig verwendet, um Reaktionen oder zusätzlichen Kontext zu den Kommentaren anderer Benutzer bereitzustellen.
X-Benutzer können jedoch auch die KI-Bildbearbeitungsfunktion von Grok verwenden, um hochgeladene Bilder ohne Zustimmung der abgebildeten Person zu ändern.
Frauen, die sexualisierte Bilder von sich entdeckt haben, die von Grok erstellt wurden, haben die Erfahrung als entmenschlichend beschrieben.
Dr. Daisy Dixon gehört zu den weiblichen X-Benutzern, die kürzlich Fälle erlebt haben, in denen Personen alltägliche Fotos, die sie auf der Plattform gepostet hat, verwendet und Grok angewiesen haben, sie zu entkleiden oder zu sexualisieren.
Gegenüber der BBC äußerte sie sich „schockiert“, „gedemütigt“ und besorgt um ihre Sicherheit aufgrund der Bilder.
Während sie die Forderung der Technologieministerin nach Maßnahmen unterstützt und sie „herzerwärmend“ findet, bleibt sie frustriert über die wahrgenommene mangelnde Rechenschaftspflicht von X.
„Ich und viele andere Frauen auf X melden weiterhin die unangemessenen KI-Bilder/-Videos, die uns täglich geschickt werden, aber X antwortet weiterhin, dass keine X-Regeln verletzt wurden“, sagte sie.
„Ich hoffe nur, dass Kendalls Worte bald in konkrete Maßnahmen umgesetzt werden – ich möchte meine X-App nicht mehr öffnen, da ich Angst habe, was ich sehen könnte.“
In ihrer Erklärung betonte Ministerin Kendall: „Dienste und Betreiber haben eine klare Verpflichtung, angemessen zu handeln. Es geht hier nicht um die Einschränkung der Meinungsfreiheit, sondern um die Wahrung des Gesetzes.“
„Wir haben den Missbrauch intimer Bilder und Cyberflashing zu vorrangigen Straftaten im Rahmen des Online Safety Act gemacht – auch wenn die Bilder KI-generiert sind. Dies bedeutet, dass Plattformen verhindern müssen, dass solche Inhalte online erscheinen, und schnell handeln müssen, um sie zu entfernen, falls dies doch der Fall ist.“
Der Vorsitzende der Liberaldemokraten, Sir Ed Davey, forderte die Regierung auf, „sehr schnell“ zu handeln, um die Generierung sexualisierter Bilder durch Grok zu stoppen, und schlug vor, dass eine Maßnahme darin bestehen könnte, den „Zugang“ zu X zu „reduzieren“.
„Wenn sich die Berichte als wahr herausstellen, muss die National Crime Agency eine strafrechtliche Untersuchung einleiten“, sagte Sir Ed.
„Leute wie Elon Musk müssen zur Rechenschaft gezogen werden.“
Gegenüber BBC Newshour sagte Thomas Regnier, Sprecher für technologische Souveränität bei der Europäischen Kommission, dass sie das Problem „sehr ernst“ nehmen.
„Wir wollen das nicht in der Europäischen Union… es ist entsetzlich, es ist widerlich.
„Der Wilde Westen ist in Europa vorbei“, sagte er.
„Alle Unternehmen sind verpflichtet, ihr eigenes Haus in Ordnung zu bringen – und das beginnt damit, dass sie verantwortungsbewusst handeln und illegale Inhalte entfernen, die von Ihrem KI-Tool generiert werden.“
Einige Fans von FPL und anderen Ligen greifen auf Chatbots und Apps zurück, um sich einen Vorteil gegenüber anderen Spielern zu verschaffen.
Einige große Einzelhändler und unabhängige Geschäfte haben KI-Körperscans, Überwachungskameras oder Gesichtserkennungssysteme eingeführt, um Straftaten wie Ladendiebstahl zu identifizieren.
Der Northumberland County Council testet, wie KI die Entscheidungsfindung bei der Hochwasserplanung beschleunigen kann.
Die Verarbeitung von Drohnendaten kann Stunden dauern, aber ein KI-Tool erledigt die Arbeit innerhalb weniger Sekunden.
Wir haben mehrere Experten gebeten, die Technologie vorherzusagen, die wir bis 2050 verwenden werden
„`