Am 10. November 2016, zwei Tage, nachdem Donald Trump zum 45. Präsidenten der USA gewählt worden war, sprach Facebook-Chef Mark Zuckerberg an einer Konferenz in Kalifornien einen verhängnisvollen Satz aus: Es sei eine «verrückte Idee», anzunehmen, dass Fake News auf Facebook die Wahl beeinflusst hätten.

Was folgte, ist bekannt: US-Geheimdienste sind sich sicher, dass es russische Einflussnahme auf die Präsidentschaftswahl gab, Zuckerberg musste zurückkrebsen und vor Untersuchungsausschüssen aussagen. Seither ist der Techkonzern stets bemüht, als aktiver Kämpfer gegen Desinformation wahrgenommen zu werden.

So auch am Mittwoch, als er in Menlo Park die Schaltzentrale zeigte, die verhindern helfen soll, dass es bei den Midterms in den USA und bei der Präsidentschaftswahl in Brasilien zu Unregelmässigkeiten kommt. Ihr martialischer Name ist dem Politbetrieb entlehnt: War Room.

Hier arbeiten Spezialisten aus zwanzig Teams zusammen – Daten-Analysten, Software-Ingenieure, Security-Experten und so weiter. Sie repräsentieren die 20'000 Facebook-Angestellten, die für die Sicherheit der User bürgen sollen.

Ausschau halten nach Anomalien

Sie wurden in diesem Raum zusammengezogen, um schneller auf potenzielle Gefahren reagieren zu können, erklärt Samidh Chakrabarti, Director of Product Management, der versammelten Presse. Und zwar über alle Medien hinweg, die zu Facebook gehören – Facebook selbst, Whatsapp und Instagram.

Geschäftig sieht es aus im War Room: Bildschirme an den Arbeitsplätzen, Bildschirme an den Wänden, Bildschirme von der Decke. Dazu US-Flaggen und die Fahne Brasiliens. Eine Uhr, die die Zeit runterzählt bis zum 2. Wahlgang im südamerikanischen Land. Dazwischen junge, dynamische Leute, die den Medien einmal erzählen dürfen, was sie machen.

Sie hätten Vorgaben, wie ein normaler Tag auf Social Media in Brasilien aussähe, und würden nach Anomalien Ausschau halten, sagt War-Room-Chefin Lexy Sturdy der Deutschen Welle. Ein besonderes Augenmerk liegt sowohl in Brasilien als auch in den USA auf möglichen Falschmeldungen, die sich auf den Wahlablauf selbst beziehen: So sei in Brasilien die Falschnachricht zirkuliert, dass der Wahltermin verschoben worden sei. Ähnliche Fake News über die Länge von Wartezeiten in Stimmlokalen oder deren Öffnungszeiten sollen vermieden werden.

Bei Whatsapp ist es komplizierter als bei Facebook

Das Überwachen übernehmen die Rechner: Stellen die Algorithmen Aussergewöhnliches fest, schlagen sie Alarm – so zum Beispiel, wenn zu den Wahlen in den USA ungewöhnlich viele Posts aus dem Ausland kommen. Die Experten werten dann aus und treten, wo nötig, in Aktion.

Was bei Facebook noch verhältnismässig einfach ist, wird bei Whatsapp, das in Brasilien besonders populär ist, komplizierter. Hier kann Facebook nicht so einfach mitlesen, da die Nachrichten End-to-end verschlüsselt werden, also vom Absender bis zum Empfänger. Lediglich Nachrichten in öffentlichen Gruppen kann das Unternehmen einsehen – welche Massnahmen es darüber hinaus trifft, um Desinformation auf Whatsapp zu bekämpfen, ist weitestgehend unbekannt.

Besonders stolz scheint Chakrabarti auf die Errungenschaften im Bereich des Machine Learning zu sein. So gelinge es mittlerweile immer besser, Fake-Accounts gleich beim Erstellen zu erkennen und zu sperren. Angeblich habe Facebook in den letzten Monaten so fast 1,3 Milliarden falsche Konten von der Plattform entfernen können – eine schier unglaubliche Zahl angesichts der etwas über 2,2 Milliarden aktiven Nutzer, die Facebook hat.

Die zwanzig bis vierzig Spezialisten arbeiten derzeit von vier Uhr morgens bis um Mitternacht, wenn die US-Wahlen vom November näherrücken, wird der Betrieb rund um die Uhr laufen. Die meisten Probleme soll das Team im War Room selbst lösen können, im Notfall könne man aber jederzeit Chief Operating Officer Sheryl Sandberg oder gar Zuckerberg selbst hinzuziehen, versichert Nathaniel Gleicher, Head of Cyber Security Policy.

Der Kampf gegen Fake News ist ein «andauerndes Wettrüsten»

Ob es Facebook gelingt, neben dem Vertrauen der User auch die Oberhand im Kampf gegen Fake News auf der Plattform zurückzugewinnen, bleibt angesichts aktueller Entwicklungen ungewiss. Erst Ende September waren mehrere Millionen Facebook-Konten von einem Hack betroffen.

Vergangene Woche ordnete ein Gericht in Brasilien die Entfernung von Links auf Facebook zu 33 Fake-News-Artikeln an. Und gestern, Donnerstag, erhob der brasilianische Präsidentschaftskandidat Fernando Haddad gegen seinen Konkurrenten Jair Bolsonaro schwere Vorwürfe: Der habe per Whatsapp Hunderttausende Nachrichten verschickt, die Haddad schaden sollten – angeblich mit Fake News über ihn.

Gleichzeitig machte die grosse brasilianische Tageszeitung «Folha de São Paulo» publik, dass diverse Unternehmen, die Bolsonaro unterstützen, massenhaft Whatsapp-Nachrichten an Bürger verschickt hätten. Das ist nach brasilianischem Wahlrecht nicht nur illegal, sondern verstösst auch gegen die Nutzungsbedingungen von Whatsapp.

Hier offenbart sich eines der grossen Probleme von Facebook im Kampf gegen Wählermanipulation: Das Unternehmen kann mit seinen Massnahmen immer nur reagieren und benötigt dabei mitunter sogar den Anstoss von aussen, wie das Gerichtsurteil in Brasilien zeigt. Im besten Fall werden gefälschte Konten schon bei der Erstellung gesperrt – doch sobald Fake News zu kursieren beginnen, ist es schon zu spät.

Eine weitere Mitarbeiterin von Facebook gibt sich bei dem Pressetermin fast schon entwaffnend ehrlich: Der Kampf gegen Desinformation sei ein «andauerndes Wettrüsten», man müsse bemüht sein, mit den «Bad Actors» mithalten zu können. Vor dem Hintergrund dieser Erkenntnis wirkt ein War Room doch nur wie bessere Augenwischerei. Immerhin kann er auch als Zugeständnis gelesen werden, dass Facebook seine Rolle als globaler Player auf dem Meinungsmarkt endlich anerkennt.

Wie effektiv die Bemühungen von Facebook wirklich sind, wird sich in den kommenden Wochen zeigen: Gleicher bestätigt gegenüber der Presse, dass es bereits gesteigerte Aktivitäten auf Facebook im Vorfeld der Wahlen in den USA gebe, verrät aber keine Details.