Taylor Swift Deepfakes Herausforderungen für neue rechtliche Schutze

(SeaPRwire) –   Deepfake pornografische Bilder von Taylor Swift wurden in der sozialen Medien-Plattform X geteilt, was die fehlenden digitalen Datenschutz für Opfer auf der ganzen Welt hervorhebt.

Es ist nicht bekannt, wer die gefälschten Bilder von Swift erstellt hat, die seit Mittwoch bereits Zehntausende Male angesehen wurden. Am Freitag teilte X mit, dass ihr Team daran arbeite, alle nicht einvernehmlichen Nacktaufnahmen von ihrer Seite zu entfernen, was “streng verboten” sei.

“Wir verpflichten uns, eine sichere und respektvolle Umgebung für alle Nutzer zu gewährleisten”, sagte das Unternehmen. Swift hat sich bisher nicht öffentlich zu der Angelegenheit geäußert.

Swift mag das jüngste prominente Opfer von Deepfakes sein, aber Carrie Goldberg, eine New Yorker Anwältin, die Opfer von Technik-Missbrauch vertritt, sagt, dass sie in den letzten zehn Jahren einen Anstieg bei Kindern und nicht-prominenten Personen beobachtet hat, die Opfer dieser Form des Online-Missbrauchs wurden. “Unser Land hat bei der Bekämpfung der nicht einvernehmlichen Verbreitung nackter Bilder große Fortschritte gemacht, aber jetzt füllen Deepfakes diese Lücke [des rechtlichen Schutzes] ein”, sagt Goldberg.

Deepfakes – manipulierte Mediendateien, die eine falsche Darstellung oder ein falsches Video einer Person zeigen – haben sich in den letzten Jahren stark verbreitet. Frühere Schätzungen zeigen, dass in den ersten neun Monaten von 2023 mindestens 244.635 Deepfake-Videos auf den 35 am häufigsten besuchten Websites hochgeladen wurden, die Deepfake-Pornografie hosten.

Zehn Bundesstaaten – wie Virginia und Texas – haben strafrechtliche Gesetze gegen Deepfakes, aber es gibt derzeit kein bundesweites Gesetz. Im Mai 2023 brachte der Demokrat Joe Morelle aus New York den “Preventing Deepfakes of Intimate Images Act” ein, um die nicht einvernehmliche Verbreitung sexueller Deepfake-Bilder im Internet unter Strafe zu stellen. Der Gesetzentwurf wurde an den Justizausschuss des Repräsentantenhauses überwiesen, seitdem gab es jedoch keine Fortschritte. Im Januar wurden auch der “No Artificial Intelligence Fake Replicas And Unauthorized Duplications” (No AI Fraud) Act eingebracht, der Amerikaner vor der Manipulation ihrer Bilder und Stimmen durch KI schützen soll.

Experten warnen, dass diese Problematik besonders junge Frauen gefährdet, die überwiegend Opfer von Deepfakes werden. “Deepfakes sind ein Symptom eines größeren Problems [von] Online-Gewalt gegen Frauen und Mädchen, das historisch von Tech-Unternehmen und der Gesellschaft nicht priorisiert wurde”, sagt Adam Dodge, Gründer von Endtab (Ending Tech-Enabled Abuse), einem Unternehmen für digitale Sicherheitsschulungen und -ausbildung für Opfer von Online-Belästigung. “Ich hoffe, dass dieser Angriff auf Taylor Swift ein so helles Licht auf ein Problem wirft, das es schon seit Jahren gibt, dass wir tatsächlich Maßnahmen ergreifen, um die Erstellung und Verbreitung solcher Bilder zu verhindern und die Verantwortlichen zur Rechenschaft zu ziehen.”

Rechtlicher Schutz für Opfer

Deepfakes, die Dodge als “Gesichtsaustausch” bezeichnet, sind alarmierend einfach herzustellen. Nutzer benötigen keine Erfahrung mit Programmierung oder KI, um sie zu erzeugen. Stattdessen können Online-Plattformen sie für Nutzer mit nur wenigen Klicks und der Einsendung eines Fotos oder Videos generieren. Deepfakes können für explizite Inhalte verwendet werden, können aber auch dazu verwendet werden, falsche Audio-Botschaften zu erzeugen, die Wahlen beispielsweise stören könnten.

Experten warnen, dass ein umfassendes System aus Unternehmen und Einzelpersonen an Deepfakes partizipiert und dafür haftbar gemacht werden könnte. “Ganz oben gibt es eine Suchmaschine, in der man nach ‘Wie erstelle ich einen Deepfake’ suchen kann, was dann eine Reihe von Links gibt”, sagt Goldberg. “Es gibt die Produkte selbst, die ausschließlich für böswillige Zwecke existieren… die Person, die tatsächlich das Produkt nutzt, um die Datenbank zu erstellen, und dann die Betrachter, die es möglicherweise teilen.”

Dodge sagt, dass weil das Internet Inhalte so schnell verbreiten kann – Swifts Deepfakes hatten laut NBC News in 19 Stunden mehr als 27 Millionen Aufrufe und 260.000 Likes -, es nahezu unmöglich ist, alle gefälschten Inhalte aus dem Internet zu entfernen. “Es ist zutiefst besorgniserregend, wenn Eile geboten ist und jede Sekunde, in der dieses Bild online ist, es in exponentiellem Tempo geteilt und heruntergeladen wird”, sagt er. Unternehmen wie Google und X verbieten zwar irreführende Medien, können aber immer noch langsam reagieren oder die Mediendateien entfernen.

Die Haftung sozialer Medienplattformen für die Verbreitung von Deepfakes rechtlich einzuklagen, ist aufgrund des Schutzes durch den Communications Decency Act schwierig. Das Gesetz besagt, dass “kein Anbieter oder Nutzer eines interaktiven Computerdienstes als Verleger oder Sprecher von Informationen behandelt werden darf, die von einem anderen Informationsanbieter bereitgestellt werden”. Das bedeutet, Plattformen wie Instagram oder Facebook sind nicht für Inhalte von Dritten verantwortlich, die auf ihrer Seite hochgeladen werden.

Goldberg sagt jedoch, dass es möglich ist, ein Unternehmen haftbar zu machen, wenn es eine einzigartige Funktion gibt, die es ermöglicht, Schaden zu verursachen. So gewann sie einen Fall, um Omegle zu schließen, einen anonymen Video-Chat-Raum, der den sexuellen Missbrauch von Kindern ermöglichte.

Dodge warnt jedoch, dass die USA nicht über die nötige Infrastruktur verfügen, um Opfer von Deepfakes angemessen zu unterstützen. “Strafverfolgungsbehörden sind nicht ausreichend ausgebildet oder besetzt, um diese anonymen Angreifer zu verfolgen, und als Folge begegnen Opfer, die dies erlebt haben, schnell Hindernissen bei der Strafverfolgung”, sagt er. Ein Teil des Problems sei, dass Ermittler Deepfakes möglicherweise nicht verstehen; Dodge sagt, dass viele Opfer, mit denen er gesprochen habe, die Bürde übernehmen mussten, selbst herauszufinden, wie sie die Bilder entfernen können.

Die Lösung, so Experten, würde von Gesetzen verlangen, Unternehmen, die an solchen Bildern und Videos verdienen, nicht mehr zu schützen, insbesondere da sie so einfach zu erzeugen sind. “Wir können nicht verhindern, dass jemand unser Foto macht… man kann das Opfer hier nicht beschuldigen”, sagt Goldberg. “Alles, was sie getan haben, ist zu existieren.”