Malaysia und Indonesien gehen vor, Musks Grok AI wegen sexuell expliziter Deepfakes zu verbieten

(SeaPRwire) –   Zwei südostasiatische Länder – Malaysia und Indonesien – sind die ersten Länder der Welt, die Maßnahmen gegen Elon Musks Grok-Chatbot und seine Fähigkeit, Deepfake-Bilder zu generieren, ergriffen haben.

Am 10. Januar kündigte Indonesien an, den Zugang zu Grok vorübergehend einzuschränken. Meutya Hafid, die Kommunikations- und Digitalministerin des Landes, schrieb, dass das Verbot verhängt worden sei, um „Frauen, Kinder und die breitere Gemeinschaft“ vor gefälschtem pornografischem Inhalt zu schützen, der von KI erstellt wird.

Am nächsten Tag erklärte die Malaysian Communications and Multimedia Commission (MCMC), sie werde ebenfalls den Zugang zu Grok „vorübergehend einschränken“, nachdem es zu „wiederholtem Missbrauch … zur Erstellung obszöner, sexuell expliziter, unanständiger, äußerst beleidigender und nicht einwilligungsbasierter manipulierter Bilder“ gekommen war.

In einer Erklärung hielten sie die Antworten jedoch für „nicht ausreichend, um Schaden zu vermeiden oder rechtliche Konformität zu gewährleisten“.

Sowohl Indonesien als auch Malaysia haben strenge Regeln gegen Online-Pornografie. Indonesien, das Heimat der größten muslimischen Bevölkerung der Welt ist, war besonders aggressiv und hat sowohl indonesische als auch ausländische OnlyFans-ErstellerInnen nach seinem Pornografiegesetz von 2008 angeklagt.

Am 9. Januar beschränkte man die Bildgenerierung auf zahlende NutzerInnen, um die Flut an Deepfake-Bildern einzudämmen, bei denen NutzerInnen Grok baten, Bilder von Frauen zu verändern, um sie in aufreizender Kleidung zu zeigen. Opfer haben X angegriffen, weil es die nicht einwilligungsbasierte Erstellung sexualisierter Inhalte, auch von Minderjährigen, zulässt. Regierungsbeamte prüfen ebenfalls, Maßnahmen gegen X und Grok zu ergreifen.

xAI sandte eine E-Mail mit nur dem Text „Legacy Media Lies“ (Überlieferte Medien lügen), nachdem nach Kommentaren zu dem Verbot in Indonesien und Malaysia gefragt hatte.

Dauerhafte Sicherheitslücken

Die Maßnahmen der Regierungen gegen X und Grok waren vermutlich unvermeidbar, angesichts der Leichtigkeit, mit der Deepfake-Inhalte erstellt werden konnten.

„Die Sicherheitsmechanismen von Grok lassen sich leicht umgehen“, sagt Chew Han Ei, eine leitende Forschungsmitarbeiterin an der Lee Kuan Yew School of Public Policy der National University of Singapore (NUS). „Wenn ein System so leicht dazu gebracht werden kann, schädlichen synthetischen Inhalt zu produzieren oder zu verstärken, deutet das auf eine Designschwäche hin.“

Die Maßnahmen Indonesiens und Malaysias gegen Grok und X erfolgen vor dem Hintergrund breiterer Sorgen in der Region um soziale Medien und Deepfakes.

Mehrere Regierungen in Asien haben Vorschriften gegen die Erstellung von Deepfakes erlassen, meist im Kontext der Verhinderung von Cyberkriminalität, Betrug und Wahlinterferenz. 2024 kriminalisierte Südkorea das Anschauen oder Erstellen von Deepfake-Pornografie.

Letztes Jahr verboten sowohl Australien als auch Malaysia Minderjährigen unter 16 Jahren den Zugang zu sozialen Medien, und zwar mit der Begründung, dass sie sich Sorgen um Online-Gefahren wie Cybermobbing, sexuelle Ausbeutung und Finanzbetrug machen. Am Montag gab Meta bekannt, dass es 550.000 Konten auf Facebook und Threads geschlossen habe, um sich an das neue australische Verbot zu halten.

„Regierungen sind weniger bereit, einen Ansatz zu tolerieren, bei dem zuerst veröffentlicht und später repariert wird. Wenn die Sicherungsmaßnahmen nicht glaubwürdig sind, wird der Zugang zum Werkzeug zu einer legitimen politischen Frage“, sagt Chew.