Taylor Swift-Suchen von X wegen Verbreitung von Deepfakes blockiert

(SeaPRwire) –   Die Social-Media-Plattform X, früher Twitter, hat die Suche nach dem Namen der Popsängerin Taylor Swift blockiert, um die Verbreitung von sexuell expliziten Deepfakes der Sängerin einzudämmen und offenbart damit die Herausforderungen beim Umgang mit solchem Inhalt.

„Dies ist eine vorübergehende Maßnahme und erfolgt aus Fürsorgepflicht, da wir die Sicherheit in dieser Angelegenheit priorisieren“, sagt Joe Benarroch, Leiter der Geschäftsabläufe bei X, TIME in einer E-Mail vom Sonntag. Zum Zeitpunkt der Veröffentlichung waren Suchen nach dem Namen Taylor Swift auf X immer noch nicht zugänglich.

Am Freitag postete X’ Safety-Konto auf der Plattform, dass nicht einvernehmliche Nacktheit streng verboten ist und das Unternehmen „Teams aktiv entfernen alle identifizierten Bilder und ergreifen angemessene Maßnahmen gegen die Konten, die sie hochgeladen haben“, hieß es in der Erklärung. „Wir sind verpflichtet, eine sichere und respektvolle Umgebung für alle Nutzer zu gewährleisten.“

TIME hat sich an Swifts Pressesprecher gewandt.

Die Swift-Deepfakes haben das Problem der durch KI erzeugten Pornografie ins Rampenlicht gerückt, bei der das Gesicht einer Person ohne deren Zustimmung auf ein explizites Bild oder Video übertragen wird, und die Herausforderung der Regulierung, mit der Technologie Schritt zu halten. Wie X anerkannte, ist das Verbot von Suchen nur eine Übergangslösung. Obwohl es in diesem speziellen Fall wirksam war, ist es keine langfristige Lösung für das weitreichende Problem.

96 Prozent aller Deepfakes online im Jahr 2019 waren nicht einvernehmliche Pornografie, fast ausschließlich von Frauen, so die Medienanalysten von Sensity, und das FBI warnt, dass solcher Inhalt für Erpressung und kriminelle finanzielle Gewinne verwendet werden kann.

„Es ist alarmierend“, sagte die Pressesprecherin des Weißen Hauses, Karine Jean-Pierre, als sie nach den vorgeschlagenen Gesetzen gefragt wurde. „Während soziale Medienunternehmen eigene unabhängige Entscheidungen über Inhaltsmanagement treffen, glauben wir, dass sie eine wichtige Rolle bei der Durchsetzung ihrer eigenen Regeln spielen, um die Verbreitung von Fehlinformationen und nicht einvernehmlichen intimen Aufnahmen realer Personen zu verhindern.“

Während 10 Bundesstaaten Deepfakes kriminalisieren, gibt es auf Bundesebene keine Gesetze, und Gesetzgeber im Kongress verschärfen den Druck, um den Inhalt zu verbieten.

Der Demokrat Joe Morelle aus New York brachte im letzten Jahr den ein, aber der Gesetzentwurf ist bisher nicht vorangekommen. Eine weitere Demokratin aus New York, Yvette Clarke, brachte im letzten Jahr den ein, um Bedrohungen der nationalen Sicherheit zu schützen und rechtliche Möglichkeiten für Opfer zu schaffen.

Im Januar brachten Gesetzgeber den ein, um Amerikaner vor der Manipulation ihrer Stimmen und Bilder durch KI zu schützen.

In Reaktion auf eine Reporterfrage zu den vorgeschlagenen Gesetzen sagte Jean-Pierre, dass es „Gesetzgebung geben sollte, offensichtlich, um dieses Problem anzugehen“, wies aber darauf hin, dass Präsident Joe Biden bereits Maßnahmen ergriffen habe, indem er eine Richtlinie zur Regulierung generativer KI verfasst habe und eine Arbeitsgruppe eingerichtet habe, um diese Themen anzugehen.