Fakes mit «Grok»Wieso sich Trump und Harris hier küssen
Auf der Kurznachrichtenplattform X ist ein KI-Tool integriert, mit dem sich Fotos erzeugen lassen – auch solche mit sexuellen oder gewalttätigen Inhalten.
Eben erst sagte Donald Trump über seine Konkurrentin Kamala Harris, dass sie «wie die schönste Schauspielerin aussieht, die je gelebt hat». Gemeint war ihr Abbild auf dem Cover des «Time»-Magazins. Und nun kursieren im Netz Bilder von Trump und Harris, die sich küssen. Was ist da los?
Zwar hat Trump Harris tatsächlich als hübsch bezeichnet, aber das Kuss-Bild ist gefälscht. Nun tauchen immer wieder Fotomontagen auf, die Prominente verunglimpfen. Doch das Kuss-Bild stammt nicht aus dem Computer eines Photoshop-Cracks, sondern wurde auf Knopfdruck erstellt, vom Chatbot Grok. Das Tool wurde von Elon Musk im letzten November als Antwort auf Chat-GPT lanciert. Neu ist nun, dass Grok auch Bilder generieren kann und in die Plattform X integriert ist, zumindest für Premium-Kunden.
Elon Musk dank Grok mit Sturmgewehr im Schulzimmer
Im Unterschied zu anderen grossen KI-Bildgeneratoren hat Grok keine Sicherheitssperren oder nur solche, die einfach zu umgehen sind. Neben dem harmlosen Liebespaar Trump/Harris kursieren denn bereits fragwürdige Grok-Bilder wie etwa Kamala Harris und Alexandria Ocasio-Cortez in Unterwäsche. Ein Journalist erzeugte als Beweis ein Bild von Elon Musk mit Gewehr in einem Schulzimmer, nachdem er offenbar gerade Schülerinnen und Schüler niedergemäht hatte.
Grok ist nicht die einzige Software, die solche Deepfakes erzeugen kann. Tools wie etwa Stable Diffusion, die gratis im Netz erhältlich sind, sind dazu auch in der Lage. Grok aber stammt von Musks Firma xAi, die Produkte herstellt, die auf künstlicher Intelligenz basieren. Dass Grok dazu auf einer grossen Nachrichtenplattform wie X zum Einsatz kommt, ist erst recht ungewöhnlich. Google etwa hat die Bilderzeugungsfunktionen seines Chatbots namens Gemini nach ähnlichen Missbräuchen eingestellt. Chat-GPT wiederum lehnt Aufforderungen für sexuelle oder gewalttätige Bilder ab.
Musk sagt über Grok, man solle das Tool nur nutzen, wenn man Humor habe. Der Chatbot antworte «mit ein wenig Witz». Groks lasche Sicherheitsvorkehrungen stehen freilich im Einklang mit Elon Musks Verachtung gegenüber jeglichen Einschnitten in die Meinungsfreiheit. Einen «Free Speech Absolutist» nannte sich der reichste Mensch der Welt einmal: Alles, was nicht verboten sei, solle auf X gesagt werden dürfen.
Wann ist ein Deepfake ein Witz, wann Desinformation?
Über die Vor- und Nachteile absoluter Meinungsfreiheit kann man geteilter Meinung sein. Die einen sehen darin das Urwesen der Demokratie, andere fürchten genau um Letztere, weil es durch absolute Meinungsfreiheit zu gesellschaftlicher Spaltung komme.
Einigkeit besteht beim Thema Desinformation – diese kann für eine demokratische Gesellschaft nur schädlich sein. Und genau darum handelt es sich bei visuellen Deepfakes. In den USA wurde deshalb ein Gesetzesentwurf eingebracht, der Rechtsmittel für Opfer von nicht einvernehmlich erstellten KI-Bildern vorsieht. Grossbritannien erliess kürzlich ein Gesetz zur Onlineregulierung, die umstrittene «Online Safety Bill». Einige Experten kritisieren diese allerdings, weil sie zu wenig strikte Vorgaben an die Techkonzerne mache, gegen Falschinformationen vorzugehen.
Bloss: Wann ist ein Deepfake ein Witz und wann Desinformation? Liegt die Verantwortung bei den Nachrichtenplattformen, Grok oder dem Nutzer? Es sind knifflige juristische und moralische Fragen, die uns mit dem Aufstieg der KI bevorstehen.
Fehler gefunden?Jetzt melden.
