Großbritannien geht gegen Elon Musks X mit Geldstrafen und möglichem Verbot wegen Grok-Deepfake-Missbrauchs vor

(SeaPRwire) –   Die britische Regierung verschärfte am Montag ihr Vorgehen gegen KI-generierten sexuellen Missbrauch, nachdem Minister eine mögliche Sperre von Elon Musks Social-Media-Plattform X im Zuge einer sich ausweitenden Untersuchung bestätigten, wobei das Unternehmen möglicherweise hohe Geldstrafen zahlen muss.

Dieser dramatische Schritt folgt auf die Einleitung einer Untersuchung durch Ofcom, den britischen Kommunikikationsregulator, ob X seine gesetzlichen Pflichten nach dem britischen Online Safety Act verletzt hat. Die Untersuchung wurde eingeleitet, nachdem Berichte auftauchten, dass der integrierte KI-Chatbot der Plattform, Grok, zur Erzeugung und Verbreitung sexualisierter Deepfake-Bilder von Frauen und Kindern genutzt wurde.

Grok wurde 2023 gestartet, aber seine Bildgenerator-Funktion, Grok Imagine, wurde 2025 mit einem speziellen Modus zur Erzeugung von Erwachseneninhalten hinzugefügt.

Die Ministerin für Wissenschaft, Innovation und Technologie, Liz Kendall, bezeichnete den jüngsten Missbrauch des KI-Tools zur Erzeugung sexuell expliziter und nicht einvernehmlicher Bilder als „zutiefst beunruhigend“.

Kendall warnte auch, dass Social-Media-Unternehmen zur Rechenschaft gezogen würden, wenn sie nicht handelten.

„Ich begrüße die Dringlichkeit, mit der Ofcom heute eine formelle Untersuchung eingeleitet hat“, sagte Kendall laut einem Bericht. „Es ist entscheidend, dass Ofcom diese Untersuchung schnell abschließt, weil die Öffentlichkeit – und vor allem die Opfer – keine Verzögerung akzeptieren werden.“

In einer später am Montag geteilten Erklärung sagte Kendall, das Grok AI-Tool sei genutzt worden, um entwürdigende, nicht einvernehmliche intime Bilder zu erstellen und zu verbreiten.

„Keine Frau und kein Kind sollte in der Angst leben müssen, dass ihr Bild sexuell manipuliert wird“, sagte sie, bevor sie hinzufügte: „Der Inhalt, der auf X kursiert ist, ist abscheulich. Er ist nicht nur eine Beleidigung für die anständige Gesellschaft, er ist illegal.“

Kendall fügte hinzu, dass das Teilen oder Androhen des Teilens von Deepfake-intimbildern ohne Einwilligung, einschließlich Bildern von Personen in Unterwäsche, nach britischem Recht eine Straftat darstellt.

Sie warnte, dass Ofcom die Befugnis habe, Geldbußen oder Strafen von bis zu 10 % des weltweiten qualifizierten Umsatzes eines Unternehmens zu verhängen.

„Aber X muss nicht warten, bis die Ofcom-Untersuchung abgeschlossen ist“, sagte Kendall. „Sie können sich dafür entscheiden, früher zu handeln, um sicherzustellen, dass dieses abscheuliche und illegale Material nicht auf ihrer Plattform geteilt werden kann“, warnte sie.

Ofcom hatte mitgeteilt, es habe am 5. Januar „dringend Kontakt“ mit X aufgenommen und Erklärungen zu den Schritten gefordert, die zum Schutz britischer Nutzer unternommen werden, und eine Antwortfrist bis zum 9. Januar gesetzt.

Während xAI, ein weiteres von Musk gegründetes Unternehmen, antwortete, sagte Ofcom, es habe sich nach Prüfung der verfügbaren Beweise „als Angelegenheit von höchster Priorität“ entschieden, eine formelle Untersuchung zu eröffnen.

In einer am Montag veröffentlichten Erklärung sagte Ofcom: „Berichte, dass Grok genutzt wurde, um illegale nicht einvernehmliche intime Bilder und Material zum sexuellen Missbrauch von Kindern auf X zu erstellen und zu teilen, sind zutiefst besorgniserregend.“

„Plattformen müssen Menschen in Großbritannien vor Inhalten schützen, die in Großbritannien illegal sind, und wir werden nicht zögern zu untersuchen, wenn wir den Verdacht haben, dass Unternehmen ihren Pflichten nicht nachkommen, insbesondere wenn ein Risiko für Kinder besteht“, hieß es in der Erklärung.

Wie zuvor von Digital berichtet, räumte der Chatbot in einem öffentlichen Beitrag auf X ein, ein KI-Bild erzeugt und geteilt zu haben, das zwei junge Mädchen in sexualisierter Kleidung zeigte, nannte den Vorfall ein „Versagen der Schutzvorkehrungen“ und entschuldigte sich für den verursachten Schaden.

Angesichts wachsender Kritik bestätigte Grok, damit begonnen zu haben, einige Bildgenerierungs- und Bearbeitungsfunktionen auf zahlende Abonnenten zu beschränken. Der Chatbot sagte, die Einschränkungen seien eingeführt worden, um weiteren Missbrauch zu verhindern.

Musk beschuldigte die britische Regierung am Montag ebenfalls des „Faschismus“, weil sie „Tausende Menschen wegen Social-Media-Beiträgen verhaften“ lasse.

Der milliardenschwere Tesla-Gründer hatte auf einen Beitrag auf X reagiert, der behauptete, das Land verhaute mehr Menschen wegen Social-Media-Beiträgen als „jedes andere Land der Erde“.

Parallel zur Ofcom-Untersuchung kündigte die britische Regierung an, dass Gesetze, die die Erstellung nicht einvernehmlicher intimer Bilder, die von KI generiert wurden, unter Strafe stellen, diese Woche in Kraft treten würden.

Kendall sagte, die Verantwortung liege nicht allein bei Einzelpersonen.

„Die Plattformen, die solches Material hosten, müssen zur Rechenschaft gezogen werden, einschließlich X“, sagte sie.

Wenn sie nicht handelten, sei sie „bereit, noch weiter zu gehen“, sagte sie.

Unterdessen sagte der offizielle Sprecher des britischen Premierministers Keir Starmer, die Präsenz der Regierung auf der Plattform werde „überprüft“ und „alle Optionen stünden auf dem Tisch“.

Digital berichtete am Montag auch, dass Malaysia und Indonesien die ersten Länder geworden seien, die Grok blockieren.

Digital hat Elon Musk und das Büro von Premierminister Keir Starmer um einen Kommentar gebeten.

The Associated Press und Reuters haben zu diesem Bericht beigetragen.