Ofcom hat „dringenden Kontakt“ mit xAI, Elon Musks KI-Firma, aufgenommen, nachdem Berichte aufkamen, wonach dessen Grok-KI-Tool angeblich in der Lage ist, „sexualisierte Bilder von Kindern“ zu generieren und Frauen digital zu entkleiden.
Ein Sprecher der Aufsichtsbehörde erklärte, dass man auch Bedenken bezüglich der angeblichen Produktion von „entkleideten Bildern“ von Personen durch Grok untersuche.
Die BBC hat mehrere Fälle auf der X-Plattform geprüft, in denen Nutzer den Chatbot aufforderten, bestehende Bilder zu verändern und Frauen ohne deren Zustimmung in Bikinis darzustellen oder sie in sexuell anzügliche Situationen zu versetzen.
X hat sich noch nicht zu Anfragen nach einem Kommentar geäußert. Am Sonntag veröffentlichte die Plattform eine Warnung an ihre Nutzerbasis und warnte davor, Grok zur Erstellung illegaler Inhalte, einschließlich kinderpornografischen Materials, zu verwenden.
Elon Musk veröffentlichte eine Erklärung, in der er andeutete, dass Personen, die die KI anweisen, illegale Inhalte zu generieren, „die gleichen Konsequenzen erleiden“ würden, als hätten sie das Material selbst hochgeladen.
Die offizielle Richtlinie zur akzeptablen Nutzung von XAI verbietet ausdrücklich die „Darstellung von Abbildungen von Personen in pornografischer Weise“. Berichten zufolge nutzen Benutzer Grok jedoch aus, um Personen ohne entsprechende Genehmigung digital zu entkleiden.
Bilder von Catherine, Prinzessin von Wales, gehörten zu denen, die Berichten zufolge von Grok-Benutzern auf X verändert wurden und sie ohne Kleidung zeigten.
Die BBC hat den Kensington Palace um eine Stellungnahme gebeten.
Die Europäische Kommission hat erklärt, dass sie sich „ernsthaft mit dieser Angelegenheit befasst“, und die Behörden in Frankreich, Malaysia und Indien sollen die Situation prüfen.
Die britische Internet Watch Foundation bestätigte gegenüber der BBC, dass sie Berichte von der Öffentlichkeit über von Grok auf X generierte Bilder erhalten hat.
Die Organisation erklärte jedoch, dass sie noch keine Bilder identifiziert habe, die die britische Rechtsschwelle überschreiten, um als kinderpornografisches Material eingestuft zu werden.
Grok fungiert als kostenloser virtueller Assistent mit optionalen Premium-Funktionen und reagiert auf Eingabeaufforderungen von X-Benutzern, die ihn in ihren Beiträgen markieren.
Samantha Smith, eine Journalistin, die entdeckte, dass Benutzer die KI verwendet hatten, um Bilder von ihr im Bikini zu erstellen, teilte am Freitag im PM-Programm der BBC mit, dass sie sich „entmenschlicht und auf ein sexuelles Stereotyp reduziert“ fühlte.
„Obwohl ich es nicht war, die sich in entkleidetem Zustand befand, sah es aus wie ich und es fühlte sich an wie ich und es fühlte sich genauso verletzend an, als hätte jemand tatsächlich ein Nackt- oder Bikini-Bild von mir gepostet“, sagte sie.
Gemäß dem Online Safety Act (OSA) definiert Ofcom die Erstellung oder Verbreitung intimer oder sexuell eindeutiger Bilder, einschließlich KI-generierter „Deepfakes“, einer Person ohne deren ausdrückliche Zustimmung als illegal.
Technologieunternehmen sind außerdem verpflichtet, „angemessene Maßnahmen“ zu ergreifen, um das Risiko zu mindern, dass britische Benutzer auf solche Inhalte stoßen, und diese nach Benachrichtigung „schnell“ zu entfernen.
Dame Chi Onwurah, Vorsitzende des Ausschusses für Wissenschaft, Innovation und Technologie, bezeichnete die Berichte als „zutiefst beunruhigend“.
Sie erklärte, dass der Ausschuss den OSA als „hoffnungslos unzureichend“ befunden habe und bezeichnete ihn als „schockierendes Beispiel dafür, wie britische Bürger ungeschützt bleiben, während Social-Media-Unternehmen ungestraft handeln“.
Sie forderte die Regierung dringend auf, die Empfehlungen des Ausschusses zu übernehmen, die Social-Media-Plattformen dazu zwingen, „mehr Verantwortung für ihre Inhalte zu übernehmen“.
Thomas Regnier, Sprecher der Europäischen Kommission, sagte am Montag, man sei sich der von Grok erstellten Beiträge „mit explizit sexuellem Inhalt“ sowie „einiger Ausgaben mit kindlichen Bildern“ bewusst.
„Das ist illegal“, sagte er und nannte es außerdem „entsetzlich“ und „ekelhaft“.
„So sehen wir das, und das hat in Europa keinen Platz“, sagte er.
Regnier sagte, X sei sich „sehr wohl bewusst“, dass die EU es mit der Durchsetzung ihrer Regeln für digitale Plattformen „sehr ernst“ nehme – nachdem sie X im Dezember mit einer Geldstrafe von 120 Millionen Euro (104 Millionen Pfund) belegt hatte, weil das Unternehmen gegen das Gesetz über digitale Dienste verstoßen hatte.
Ein Sprecher des Innenministeriums sagte, man sei dabei, Gesetze zu erlassen, um Nudifikationswerkzeuge zu verbieten, und im Rahmen einer neuen Straftat würde jeder, der solche Technologien liefere, „mit einer Gefängnisstrafe und erheblichen Geldstrafen rechnen müssen“.
Melden Sie sich für unseren Tech Decoded-Newsletter an, um die wichtigsten Technologiegeschichten und -trends der Welt zu verfolgen. Außerhalb Großbritanniens? Hier anmelden.
Einige große Einzelhändler und unabhängige Geschäfte haben KI-Körperscans, CCTV- oder Gesichtserkennungsgeräte eingeführt, um Straftaten wie Ladendiebstahl zu erkennen.
Der Northumberland County Council testet, wie KI die Entscheidungen zur Hochwasserplanung beschleunigen kann.
Die Verarbeitung von Drohnendaten kann Stunden dauern, aber ein KI-Tool erledigt die Aufgabe innerhalb weniger Sekunden.
Wir haben mehrere Experten gebeten, die Technologie vorherzusagen, die wir bis 2050 verwenden werden.
Damit übertrifft das chinesische Unternehmen zum ersten Mal seinen amerikanischen Rivalen beim Jahresumsatz.