Frau Haugen, wir waren kürzlich seit langem wieder auf Facebook und schockiert darüber, was dort mittlerweile in der Timeline angezeigt wird. Jede Menge Fake News, verstörende Fotos. Spielt der Algorithmus besonders schlimme Fotos aus, damit ich auf der Plattform wieder reagiere?

Es ist eine der Herausforderungen für Facebook als profitorientiertes, werbefinanziertes Unternehmen: Was tun, wenn eine Gemeinschaft sich von der Plattform entfernt? Ich nehme an, auch viele Ihrer Freunde posten dort nicht mehr. Für Facebook ist es dann schwierig, herauszufinden, welche Inhalte Ihnen gefallen könnten. Wie Facebook seit 2018 selbst sagt, wählen seine Empfehlungsalgorithmen überwiegend extremere Inhalte aus, weil Menschen auf diese Posts schneller reagieren.

Uns wurde in mehreren Posts eine bekannte Fernsehmoderatorin gezeigt, die verhaftet wurde. Das war natürlich nicht wirklich passiert.

Im englischsprachigen Journalismus gibt es den Spruch: «If it bleeds, it leads» (Wenn es blutet, steht es auf der Titelseite). Menschen fühlen sich zu solchen Inhalten hingezogen, Verbrechen, Sex, Gewalt. Wenn wir uns in die Hände von Computern begeben, dann werden unsere Feeds immer sensationslustiger. Das ermöglicht aber keinen effektiven Dialog mehr. Stellen Sie sich stattdessen eine Debatte vor, in der Inhalte priorisiert werden, die auf Konsens ausgerichtet sind. Das ist oft nicht befriedigend, vielleicht sogar langweilig, weil kompliziert. Die Realität ist aber kompliziert. Sie ist wie das Gemüse auf dem Teller. Facebook sind die Pommes frites. Wir müssen Brücken bauen zu denen, die anders sind als wir, und nicht diejenigen stärken, die uns auseinandertreiben.

Facebook könnte solche problematischen Posts technisch einfach löschen. Sie sagen aber, so eine Zensur funktioniere nicht. Warum nicht?

Wenn Computer problematische Inhalte finden sollen, erwischen sie leider auch sehr viele Inhalte, die nicht nur unproblematisch sind, sondern sogar aktiv die schädlichen Inhalte bekämpfen wollen. Eines der Dokumente von Facebook, die ich öffentlich gemacht habe, drehte sich um die Frage der Zensur von arabischen Inhalten mit Terrorbezug. Facebook wusste, dass 75 Prozent der Inhalte, die die Algorithmen als Terrorinhalte klassifizierten, eigentlich Posts waren, die sich gegen Terrorismus aussprachen. Also echte Menschen, die anderen sagten: «Wirf dein Leben nicht weg» oder «Du schadest deiner Community». Solche Posts wären unglaublich wertvoll, um eine Community zu deradikalisieren. Ich glaube deshalb, dass Zensur mehr zerstört, als sie schützt.

Menschen könnten den Unterschied erkennen und Facebook setzt ja viele ein. Ist das die Lösung?

Sie werden niemals genug Mitarbeiter haben, um alle Inhalte der Welt zu prüfen. China schafft das nur, indem es mithilfe von KI-Systemen nur einem Bruchteil an Posts erlaubt, viral zu gehen, und dann unzählige Menschen beschäftigt, um jeden Content genau zu prüfen. Aber wir würden lieber nicht in einer Welt leben, in der ein Wahrheitsministerium jedes Onlineposting überprüft.

Was können soziale Medien stattdessen tun?

Wir haben als Gesellschaft viele gute Wege für Kommunikation, nehmen Sie als Beispiel Dinnerpartys. Aber die funktionieren nur gut in normalen menschlichen Grössenordnungen. Facebook ist eine Dinnerparty mit Millionen Teilnehmern. Das ist ein Problem. Aber es gäbe Möglichkeiten, das Problem zu lösen. Man kann von Menschen verlangen, dass sie auf einen Link klicken, bevor sie den Inhalt dahinter teilen dürfen. Tut man das, dann führt das zu 15 Prozent weniger Desinformation auf einer Plattform.

Aber das führt auch zu weniger Posts.

Genau. Es würde bedeuten, dass Facebook ein halbes Prozent weniger Gewinn macht. Deshalb passiert das nicht. Und von solchen erwiesenermassen effektiven Massnahmen gibt es viele. Man könnte viele 15-Prozent-Ideen aneinanderreihen und hätte deutlich weniger Probleme. Aber Facebook ist sehr verschwiegen und entscheidet allein, was es tut. Zurzeit entscheidet der Konzern, dass ein halbes Prozent mehr Gewinn wichtiger ist als 15 Prozent weniger Desinformation. Um das zu ändern, bräuchte es Anreize für die Unternehmen, sich anders zu entscheiden.

Was könnten das für Anreize sein?

Transparenz ist wichtig. Das Gesetz über digitale Dienste der EU könnte da auch uns helfen, weil das Gesetz verlangt, dass die Öffentlichkeit Einblick bekommt, wie die Plattformen funktionieren. Hoffentlich haben bald Aktivisten, Anwälte und Investoren die Möglichkeit, herauszufinden, wie gut Facebook seine Hausaufgaben gemacht hat. Und wenn es eher schlecht aussieht, dann könnten Unternehmen sagen: Wir halten Werbegelder zurück, bis das besser wird.

Als Sie 2021 die internen Dokumente veröffentlichten, wurden Sie über Nacht weltberühmt. Hat Sie die starke öffentliche Reaktion damals überrascht?

Ich wollte eigentlich nie in die Öffentlichkeit. Ich wollte nur, dass die Dokumente publik werden. Aber meine Anwälte sagten mir, dass Facebook herausfinden würde, wer die Papiere geleakt habe – und dass sie versuchen würden, meine Glaubwürdigkeit anzugreifen. Ich hatte also die Wahl, an die Öffentlichkeit zu gehen und die Story aus meiner Sicht zu erzählen oder die Gefahr einzugehen, dass mich Facebook als inkompetente Ex-Mitarbeiterin verunglimpft. Ich habe aber nie damit gerechnet, dass Leute wie Sie meinen Namen kennen würden.

Wie hat sich Ihr Leben seit dem Leak verändert?

Glücklicherweise weniger, als man denken könnte. Ich hatte grosses Glück, dass die Öffentlichkeit mich so nett behandelt hat. Hätte ich mich statt mit Mark Zuckerberg mit Elon Musk angelegt, wäre das wohl anders ausgegangen. Musk hat passionierte Fanboys, die Morddrohungen verschicken und Kritiker belästigen, plötzlich vor deren Haustür auftauchen. Zum Glück hatten nur sehr wenige Leute das Bedürfnis, Mark Zuckerberg und Facebook zu verteidigen. Als ich an die Öffentlichkeit ging, konnte man mir Direktnachrichten auf Instagram schicken, meine E-Mail-Adresse ist öffentlich. Aber ich wurde nie belästigt. Das ist für Frauen im öffentlichen Diskurs extrem ungewöhnlich.

Vor ein paar Jahren galt Facebook mit Mark Zuckerberg als die böse Firma auf Social Media. Diesen Titel hat Facebook an Elon Musk und X ziemlich deutlich verloren.

Ich habe grossen Respekt vor Elon Musk, wie er technische Probleme angeht. Ich denke, darin ist er fast ein Genie. Wie er etwa etablierte Technologien neu konzipiert und weiterentwickelt. Was er mit Raketen gemacht hat. Sogar was er mit Teilen des Prozesses der Automobilproduktion gemacht hat, halte ich für bahnbrechend. Aber er hat dummerweise geglaubt, dass Social Media ein ähnliches technisches Problem darstellt. Tatsächlich ist das Betreiben einer sozialen Plattform aber eher wie das Regieren einer Gesellschaft. Das sind sehr komplexe, chaotische Systeme. Elon dachte, er könnte da reinkommen und einfach alles effizienter machen. Und das hatte unglaublich schädliche Folgen über Twitter hinaus.

Wie das?

Als er dort ankam, hat er zuerst einmal die Hälfte der Mitarbeiterinnen und Mitarbeiter entlassen, dann haben 25 Prozent gekündigt, davon viele, die für die Sicherheit auf Twitter verantwortlich waren. Er hat einen Präzedenzfall geschaffen, dass man das tun kann und es keine grossen Konsequenzen hat. Und so folgten Youtube und Facebook. Bei Tiktok weiss ich es nicht genau. Ich glaube, dass Tiktok ironischerweise in vielen Sicherheitsfragen, insbesondere in Bezug auf Kinder, bessere Arbeit geleistet hat als andere Plattformen. Elon Musk hat dem Onlinediskurs in einer Weise geschadet, die wir erst in ein paar Jahren vollständig begreifen werden. X ist nicht das böse Unternehmen. Aber die Art und Weise, wie es geführt wird, hat die Türen für Nachlässigkeit in der gesamten Branche geöffnet.

Haben Sie ein Beispiel dafür?

Twitter war früher das einzige Unternehmen, das eine Schnittstelle zu allen Inhalten auf der Plattform zur Verfügung stellte. Das bedeutete, dass jeden Tag ein Datenstrom aus dem Unternehmen kam, der jeden einzelnen Post auflistete. Das war wichtig. Denn damit konnten Forscher verstehen, wie dieses Ökosystem funktioniert. Gibt es beispielsweise Leute, die versuchen, die Plattform als Waffe einzusetzen? Als ich von 2019 bis 2021 bei Facebook arbeitete, wurde ein Viertel bis ein Drittel aller ausländischen Kampagnen zur Beeinflussung der öffentlichen Meinung, die gefunden wurden, wegen Twitter gefunden. Forscher fanden die Kanäle auf Twitter und gaben sie an Facebook weiter, oft waren ja die gleichen Akteure tätig. Dass so viele Operationen aufgedeckt werden konnten, weil Aussenstehende sich Daten auf Twitter ansahen, zeigt, wie wenig Informationen der Öffentlichkeit von Facebook oder anderen zur Verfügung standen.

Elon Musk hat diesen Informationshahn zugedreht?

Er hatte Angst, dass die Leute vergleichen würden, wie X sich vor Musk und danach verhält. Er hatte Angst, dass die Leute Urteile darüber fällen könnten, was besser oder schlechter ist. Deshalb hat er den Hahn zugedreht. Die Daten, die er zugänglich macht, sind teuer und unpraktisch, sodass sie kaum mehr zu gebrauchen sind. Man kann nur noch einzelne Suchvorgänge ausführen, anstatt sich ein gesamtes Bild zu machen. Kaum jemand hat unserer Onlinewelt so sehr geschadet wie Elon Musk.

Geht Ihre Arbeit zu Facebook nun unter, weil es Elon Musk gibt?

Ich bin nicht auf einem Kreuzzug gegen die sozialen Medien. Ich glaube aber, dass die Öffentlichkeit ein Recht darauf hat, die Plattformen zu kontrollieren. Facebook hat einen viel grösseren Einfluss als Twitter in Ländern mit fragilen Demokratien. Deshalb ist Facebook immer noch das Hauptunternehmen, das in diesem Bereich schuldig ist. Aber Musks Handlungen sind auf andere Plattformen übergeschwappt. Wenn wir keine Aufsicht und keine Transparenz für die Systeme fordern, werden sie immer schlimmer werden.