«Something went wrong» (etwas ist schiefgelaufen) – diese Meldung erhalten User der Plattform X, wenn sie nach dem Weltstar Taylor Swift suchen. Hintergrund sind die mit künstlicher Intelligenz hergestellten Bilder, die Taylor Swift in sexualisierten Posen zeigen und in der letzten Woche in den sozialen Netzwerken die Runde machten.

Insbesondere der Suchbegriff «Taylor Swift AI» lag in verschiedenen Regionen im Trend. Ein Beitrag auf X hat dabei mehr als 47 Millionen Aufrufe erzielt, bevor er – nach 17 Stunden – entfernt worden war.

Einem Bericht des Technologieportals 404 Media zufolge stammen die Bilder möglicherweise vom Internetforum 4chan und von einer speziellen Gruppe auf Telegram, welche KI-generierte Bilder von Frauen teilen. Die Fake-Bilder seien demnach oft mit dem Programm Microsoft Designer, einem kostenlosen Text-zu-Bild-KI-Generator, erstellt worden. Laut dem Bericht prahlten Benutzer in der Gruppe damit, wie die Bilder von Swift auf X viral gingen.

User aus Toronto im Fokus der Swifties

Mitverantwortlich für das Erstellen und Verbreiten der Bilder ist auch X-User ZvBear. Dabei soll es sich um einen somalischen Staatsbürger mit Wohnsitz in Ontario, Kanada, handeln. Unter anderen bestätigte 4chan die Beteiligung von ZvBear.

Dieser sah sich sogleich einer erheblichen Gegenreaktion der Taylor-Swift-Fangemeinde gegenüber. Die Wut der «Swifties» veranlasste ihn vorerst, zum Rückzug zu blasen; ZvBear setzte X und weitere seiner Social-Media-Konten auf privat, nicht ohne vorher zu bemerken, dass ihm egal sei, «wie mächtig die Swifties sind», und sie ihn niemals finden würden. Er verwende falsche Adressen und Telefonnummern, und solange sein Account aktiviert sei, «kann ich nicht verlieren», schrieb er auf X.

Zuvor hatte er sich in einer Reihe inzwischen gelöschter Tweets für die Erstellung der KI-Bilder von Swift gerühmt, er verneinte jedoch, die Bilder persönlich geteilt zu haben. Er erklärte, die Fotos seien lediglich ein «soziales Experiment» gewesen und nicht für die weite Verbreitung gedacht.

Die Plattform von US-Milliardär Elon Musk versicherte, gegen die betroffenen Inhalte und deren Urheber vorzugehen. Das Management von Taylor Swift äusserte sich zunächst nicht zu dem Vorfall.

Empörte US-Politiker

«Was Taylor Swift passiert ist, ist nichts Neues», sagte die demokratische Kongressabgeordnete Yvette Clarke aus New York, die für ein Gesetz zur Bekämpfung von Deepfake-Nacktbildern kämpft. «Seit Jahren werden Frauen ohne ihre Zustimmung zur Zielscheibe von Deepfakes. Und mit den Fortschritten bei der künstlichen Intelligenz wird es einfacher und günstiger, Deepfakes zu erstellen», fügte sie hinzu.

Aktivisten und Regulierungsbehörden fürchten, dass einfach zu bedienende KI-Tools eine unkontrollierbare Flut gefälschter und schädlicher Inhalte zur Folge haben könnten.

Der republikanische Kongressabgeordnete Tom Kean warnte, dass die KI-Technologie schneller voranschreite als ihre Regulierung. «Egal, ob Taylor Swift das Opfer ist oder ein anderer junger Mensch in unserem Land – wir müssen Sicherheitsvorkehrungen treffen, um diesen alarmierenden Trend zu bekämpfen», forderte er.

Das einzig Gute an der Sache sei, dass sie «Taylor Swift passiert ist, die wahrscheinlich genug Macht hat, um ein Gesetz zur Abschaffung dieses Phänomens durchzusetzen».

Analysten zufolge ist X eine der Plattformen mit den meisten pornografischen Inhalten weltweit, da die Richtlinien für Nacktheit hier laxer sind als etwa bei den von Meta betriebenen Onlinediensten Facebook oder Instagram.

SDA/DPA/nag

Fehler gefunden?Jetzt melden.