Künstliche Intelligenz kann ziemlich doof sein. Und nicht nur das: Im Falle von Facebooks KI paart sich mangelnde Schlauheit obendrein mit strengen Moralvorstellungen. Böse Wörter darf man bei Facebook nicht verwenden – oder was die Algorithmen eben für böse Wörter halten.

Die Zensur des sozialen Mediums hat nun Bitche getroffen, ein beschauliches Städtchen im ehemaligen Lothringen mit 5000 Einwohnern und einer alten Zitadelle. Der Name Ville de Bitche kam gar nicht gut an bei der automatisierten Sprachpolizei. Schliesslich ist das Wort Bitche nah dran am englischen Schimpfwort bitch. Die bitch an sich ist zwar nichts als eine völlig wertfreie Hündin. Im alltäglichen Sprachgebrauch sind bitch und die Ableitung son of a bitch aber meist sexistische Beleidigungen, die auf die Freizügigkeit läufiger Hündinnen anspielen.

Der Internetkonzern konnte zwischen Bitche und bitch jedenfalls nicht unterscheiden und hat die Facebook-Seite der kleinen Stadt einfach abgeschaltet, ohne Vorwarnung und ohne Nachfrage. Nachfragen oder nachdenken kann künstliche Intelligenz nicht.

Einladung an Mark Zuckerberg

«Der Name unserer Stadt schien unter einer Fehlinterpretation zu leiden», sagt Benoît Kieffer, der Bürgermeister Bitches. Nach wochenlangem Hin und Her, Dutzenden Facebook-Nachrichten, Hilfsgesuchen, Appellen und Einträgen in Kontaktformulare, hat sich Facebook nun für die Unannehmlichkeiten entschuldigt und die Seite wieder freigeschaltet. Kieffer lud daraufhin Facebook-Chef Mark Zuckerberg nach Bitche ein – zur Besichtigung der «schönen Festungsstadt» und zur Diskussion. «Was mit der Stadt Bitche geschah, zeigt die Unzulänglichkeit von Moderationsinstrumenten, die nur ein menschliches Auge wirklich anwenden kann, besonders wenn es um die Überprüfung von Quellen geht.»

Facebooks Zensuralgorithmus schlägt gerne mal in völlig albernen Situationen zu. Zum Beispiel ist es gar nicht leicht, in einer Facebook-Gruppe zum Thema Babystillen die richtige Anlegetechnik zu demonstrieren, selbst in Schaubildern. Brüste und Brustwarzen sind auf Facebook streng verboten, und die im Internet trainierte KI ist gut darin, sie aufzuspüren. Was absichtlich gestreute Fehlinformationen oder Hate Speech angeht, versagt sie allerdings oft.

KI ist billiger – und schmerzfrei

Trotzdem setzt der Internetkonzern zunehmend auf das automatisierte Aufspüren solcher Inhalte – weil menschliche Zensur nicht nur teurer ist, sondern die Durchsicht beleidigender, diskriminierender oder anderweitig unerwünschter Aussagen und Bilder Menschen grossen psychischen Belastungen aussetzt. Der Konzern, der im vergangenen Jahr fast 86 Milliarden Dollar Umsatz vor allem durch Werbung erwirtschaftete, arbeitet ständig an der Verbesserung der KI, allein schon weil Werbekunden zunehmend Druck ausüben, jetzt wirklich gegen diese unerwünschten Inhalte vorzugehen.

Der US-Konzern hätte all die Aufregung um Bitche jedenfalls vermeiden können, wenn er die KI von Historikern hätte trainieren lassen. Schliesslich haben einst Amerikaner der 100. Infanterie-Division aus dem Bundesstaat South Carolina das französische Städtchen von der deutschen Besatzung befreit – und bezeichneten sich stolz als «Sons of Bitche».

Fehler gefunden?Jetzt melden.