Frau Bik, auf Ihrem Blog «Science Integrity Digest» weisen Sie Fälschungen in Hunderten wissenschaftlichen Publikationen nach. Was ist mit der Wissenschaft los?

Vorab einmal: Tricksen und fälschen ist menschlich. Es ist nicht so, als ob es das früher nie gegeben hätte. Aber seit einigen Jahren wird der wissenschaftliche Betrieb regelrecht geflutet von gefälschten Publikationen. Sie stammen vornehmlich aus Ländern, die noch wenig Tradition auf dem wissenschaftlichen Feld haben. China etwa hat ein finanzielles Anreizsystem in seine wissenschaftlichen Betriebe integriert, was mit ein Grund für die enorme Zunahme an Publikationen in den letzten Jahren ist. Die jungen Forschenden aus diesen Ländern stehen stark unter Druck, sie möchten nach der Promotion unbedingt ein Postdoc im Westen machen. Dafür müssen sie möglichst viel publizieren.

Also wird weit mehr publiziert, als für den Fortschritt in der Forschung nötig wäre?

Auf jeden Fall. Jährlich gibt es Zehntausende neue Paper allein aus China, so viel kann der wissenschaftliche Betrieb gar nicht hergeben.

Und wie viele von diesen Publikationen sind gefälscht?

Darüber lässt sich nur mutmassen. Entdeckt werden immer mehr. Es gibt auf Facebook Inserate, die einem Unterstützung beim wissenschaftlichen Schreiben versprechen. Oft gelangt man so zu sogenannten Paper Mills.

Was ist das?

Dort werden Autorschaften verkauft. Ghostwriter bieten Paper an, die sie zwar tatsächlich selber und ohne die Hilfe von künstlicher Intelligenz (KI) geschrieben haben, deren Inhalte aber teilweise erfunden sind oder schlicht keinen Sinn ergeben. In einer Studie zu Brustkrebs wurde behauptet, 50 Prozent der Probanden seien Männer gewesen, ebenso wurde in einer Publikation zu Prostatakrebs zwischen Männern und Frauen unterschieden. Das fanden ich und ein paar Kollegen ziemlich suspekt, worauf wir uns das genauer anschauten. Es stellte sich heraus, dass das ganze Paper gefälscht war. Die Inhalte und die Studien, auf die Bezug genommen wurde, gab es so nicht.

Ist das nicht illegal?

Ich bin keine Rechtsexpertin, aber etwas einfach zu behaupten, ist ja per se nicht illegal. Es wird aber zum Problem, wenn das in einem wissenschaftlichen Kontext und einer wissenschaftlichen Publikation geschieht.

Wie kann es sein, dass solche Fälschungen einer Überprüfung standhalten?

Die meisten davon sollten ja eigentlich peer-reviewed sein, was bedeutet, dass mindestens zwei oder mehr andere Wissenschaftler gegenlesen. Natürlich kann es sein, dass man ein Bild oder eine Statistik nicht als gefälscht erkennt, aber Arbeiten, die so viele Ungereimtheiten aufweisen, legen einen anderen Schluss nahe.

Nämlich?

Dass da Leute auch absichtlich wegschauen. Und dass vielleicht sogar die Peer-Reviewer, also die Gegenleser und ihre Urteile, KI-generiert sind. Ich bin auch schon auf Peer-Reviews gestossen, die alle sehr ähnlich formuliert sind. Im Prinzip braucht es nicht mehr als ein paar gefälschte E-Mail-Adressen, um solche falschen Review-Gruppen zu bilden.

Und dazu eine gewisse kriminelle Energie. Hat der wissenschaftliche Betrieb ein ethisches Problem?

Nein, aber er steht unter einem ungesund hohen Druck. Wir als Wissenschaftler werden mehr und mehr an unserem Output gemessen. Es geht nur noch darum, wie viel man publiziert hat, auf jedem Level, in jedem Land. Wer mehr publiziert, hat die bessere Karriere. Natürlich sind zum Beispiel die amerikanischen Universitäten zu Recht sehr international besetzt, das belebt die Forschung. Aber die Anstellung an einer Uni ist eben auch ein verhältnismässig einfacher Weg zu einer Aufenthaltsgenehmigung.

Was meinen Sie damit?

Wenn wirklich in dem Ausmass gefälscht wird, wie wir das mit unseren Entdeckungen vermuten müssen, so deutet das darauf hin, dass man sich ein ganzes wissenschaftliches Resümee zusammenkaufen kann – und ein Resümee von einem gewissen Umfang ist Voraussetzung für eine Anstellung an einer Uni.

Welchen Einfluss hat KI auf das Phänomen von gefälschten wissenschaftlichen Publikationen?

KI kann für uns einen Text schreiben, was problematisch ist, wenn wir dann angeben, den Text selber geschrieben zu haben. Mehr Sorgen macht mir aber die KI als Hilfe für das Fälschen von Bildern. In wissenschaftlichen Arbeiten dienen Bilder nicht nur der Illustration, oft sind sie im Prinzip das einzige Beweisstück. Wenn wir etwa die Auswirkung eines neuen Medikaments auf Krebszellen zeigen wollen, so können wir zwei Fotos zeigen: eines mit unbearbeiteten und eines mit bearbeiteten Zellen. Auf letzterem würde sich dann zeigen, dass es nach der Bearbeitung mit dem Medikament weniger Krebszellen gibt.

Und die KI ermöglicht es, solche Fotos glaubhaft zu fälschen?

Richtig. Es ist wie in den News: Das Foto ist für uns als Publikum der ultimative Beweis, dass etwas tatsächlich passiert ist. Die KI mag vielleicht Mühe haben, menschliche Hände realistisch nachzubilden – aber die Abbildung von ein paar Zellen glaubhaft darzustellen, ist für sie ein Klacks. Bilder in diesem Bereich als Fälschungen zu enttarnen, ist enorm schwierig.

Und wie gehen Sie dabei vor?

Tatsächlich kann auch ich mir die KI zunutze machen. Ich benutze zum Beispiel das Programm Image Twin, das auf KI basiert. Es scannt nicht nur Bilder, sondern ganze Tabellen und prüft, ob sie irgendwo online bereits auftauchen.

Was haben Sie sonst noch für Möglichkeiten, Fälschungen aufzudecken?

Ich scanne von blossem Auge. Mit der Zeit erkennt man Muster in den gefälschten Bildern, wie sie sich immer an der gleichen Stelle verändern im Vergleich zum Original. Ich bin einigermassen geübt darin, mache mir beim Surfen im Web viele Screenshots und lege bei einem Verdacht die Bilder und Tabellen nebeneinander. Aber natürlich ist das nicht vergleichbar mit dem Potenzial einer KI. Es ist wahnsinnig viel einfacher, ein Bild für eine wissenschaftliche Arbeit zu fälschen, als eine solche Fälschung zu entdecken.

Wie sieht es auf Textebene aus?

Auch dort ermöglicht die KI vieles, man kann sich eine ganze Arbeit schreiben lassen, mit gefälschten Referenzen. Man kann ein bestehendes Paper nehmen und die KI einfach bitten, es neu zu schreiben, dann ist der wissenschaftliche Wert aber überschaubar. Und man kann die Informationen selber zusammentragen und die KI die Publikation schreiben lassen. Ich kann mir vorstellen, dass ein solches Vorgehen in Zukunft akzeptiert wird. Schon in ein paar Jahren wird es dieselbe Frage sein, wie ob man Schüler den Taschenrechner zur Prüfung benutzen lässt.

Wie erkennt man gefälschten Text in wissenschaftlichen Publikationen?

Es ist erstaunlich, wie sorglos mit der Hilfe von Chatbots umgegangen wird. Manchmal entdeckt man Überbleibsel der Textgeneratoren von Chat-GPT, weil es da noch heisst: «This is what I found for you» oder «I’m sorry but I cannot help you with this answer». Wir suchen bewusst nach solchen Phrasen.

Welche anderen Spuren von maschinell generiertem Text gibt es?

Seltsame Synonyme. Man liest sie und denkt sich: «Hm, diesen Ausdruck habe ich noch nie gehört.» Und wenn man mal weiss, was die Textgeneratoren kreieren, wenn man sie bittet, einen anderen Ausdruck zu verwenden, erhält man auch dafür ein Gefühl. Solarkraft wird zu «sun-oriented force», Brustkrebs zu «bosom malignancy», künstliche Intelligenz zu «counterfeit consciousness». Mein Kollege Guillaume Cabanac von der Universität Toulouse nennt sie «tortured phrases» und sammelt sie online in einer Datenbank. Solche Phrasen konnte er bislang in 700’000 Publikationen nachweisen.

In Europa geben die Doktorarbeiten von Politikern zu reden, die sich Jahre später als plagiiert herausgestellt haben. Was halten Sie von solchen Verfehlungen?

Ich halte Plagiarismus für ein Fehlverhalten. Aber es ist vom negativen Einfluss auf die Wissenschaft her in keiner Weise mit einer Fälschung zu vergleichen. Auch ich habe zunächst Plagiate enttarnt, es gibt viele davon, und oft ist es auch schwierig, genau zwischen Plagiat und Anleihe zu unterscheiden. Die Diskussion darüber erreicht natürlich eine gewisse Grösse, wenn die Plagiierenden bekannte Leute sind. Aber rein wissenschaftlich hat ein Plagiat kaum Auswirkungen. Da geht es oft einfach um persönliche Verstrickungen.

Treten die Leute auch mit solchen Fällen an Sie heran?

Ja. Da wird dann behauptet, eine Publikation sei komplett gefälscht und hochproblematisch, und wenn man sich die Mühe macht, das alles durchzusehen, stellt man fest, dass alles halb so wild ist. Und man merkt, dass es eine persönliche Sache ist, in der sich zwei Wissenschaftler zerstritten haben und mit allen Mitteln versuchen, einander Fehlverhalten vorzuwerfen. Da werde ich schnell mit hineingezogen. Und es ist nicht die einzige Konstellation, in der man mich zu instrumentalisieren versucht. Es gibt auch Universitäten oder Institute, denen Fälschungen vorgeworfen werden und die mich dann engagieren wollen, um diese Vorwürfe zu entkräften. Da lehne ich mittlerweile von vornherein ab.

Wie können Sie mit Ihrer Arbeit Geld verdienen?

Ich lebe hauptsächlich von Kleinspenden, habe einen Account beim Social-Payment-Portal Patreon. Ich habe etwa 300 monatliche Unterstützerinnen und Unterstützer und komme so auf etwa 2500 Dollar pro Monat. Dazu halte ich Vorträge und werde in Talkrunden eingeladen. 2019 habe ich meinen Job als Mikrobiologin gekündigt.

Wie sehen Sie die nähere Zukunft für Ihre Arbeit?

Es wird ein Rennen zwischen den Maschinen, auf beiden Seiten: die Maschinen, die das Gefälschte entdecken, gegen die Maschinen, die das Gefälschte erzeugen. Als Mensch möchte ich so lange wie möglich involviert bleiben. Aber wie lange das noch sein wird, ist ungewiss.