Als Bundeskanzler war Walter Thurnherr auch verantwortlich für die korrekte Durchführung von Wahlen und Abstimmungen und damit massgeblich daran beteiligt, die Integrität der demokratischen Prozesse in der Schweiz zu gewährleisten. An der Universität Basel hat sich Thurnherr zum ersten Mal seit seinem Rücktritt 2023 wieder öffentlich geäussert. Dabei machte er auf die Gefahren der KI für die Demokratie aufmerksam. Wir publizieren Thurnherrs Ansprache in gekürzter Form (vollständig ist sie hier zu finden):

Ein Besuch im Panthéon von Paris ist eine aufregende Sache. Sie sehen eindrückliche Grabstätten von wichtigen Dichtern und Denkern und staunen über das Foucault-Pendel, das dort hängt. Und plötzlich bleiben Sie schaudernd vor dem Grab von Marie Curie stehen.

Über dem Eingang des Panthéon steht in grossen Lettern und angeblich im generischen Maskulinum: «AUX GRANDS HOMMES», und drinnen liegt diese zierliche kleine Frau aus Polen, die für die Entdeckung der Radioaktivität den ersten von zwei Nobelpreisen bekommen hat und die immer noch derart radioaktiv strahlt, dass man die Besucherinnen und Besucher vor ihrem Leichnam schützen muss: Der Sarkophag, in dem sie ruht, ist mit drei Zentimeter dickem Blei ausgelegt.

Wer heute vor diesem radioaktiven Grab steht, denkt unweigerlich an die Debatte über die KI: Denn die Radioaktivität wurde zwar schon 1896 entdeckt, der Atomkern aber erst 1911. Mit anderen Worten: Schon die Feststellung, dass Radioaktivität ein kernphysikalisches Phänomen ist, konnte erst fünfzehn Jahre nach der Entdeckung der Radioaktivität gemacht werden. 

Es dauerte dann ein Vierteljahrhundert, bis man nur schon verstand, weshalb gewisse Elemente radioaktiv sind und andere nicht. Noch 1933 glaubten die besten Wissenschaftler nicht daran, dass man aus dem Atomkern Energie gewinnen kann. Keine zehn Jahre später wurde jedoch der erste Atomreaktor gebaut, und weitere drei Jahre später fielen Atombomben auf Hiroshima und Nagasaki.

Auch in der Schweiz lag man falsch: Nach dem Zweiten Weltkrieg spekulierten viele, man könne in jedem Wohnquartier ein kleines Atomkraftwerk installieren, um die Häuser zu heizen.

Und als 1962 Alt-Bundesrat Hans Streuli in seiner neuen Funktion als Präsident der «Nationalen Gesellschaft zur Förderung der industriellen Atomtechnik» den beunruhigten Vertretern des Reformierten Töchterheims von Lucens gegenübersass, stellte er fest: «Ein Werk wie das Versuchsatomkraftwerk Lucens explodiert nicht, denn es kann gar nicht explodieren.»

Sieben Jahre später explodierte es dann trotzdem.

Wer heute vor dem Grab von Marie Curie steht,  macht deshalb automatisch einen Schritt zurück, kratzt sich am Hinterkopf und fragt sich nachdenklich: Und was erkennen wir heute  nicht, von dem unsere Nachfahren sagen werden: Jesses Gott, waren die naiv! 

Ich finde es daher nützlich, wenn die Folgen der KI für die Demokratie diskutiert werden, würde aber die Debatte gerne in einen etwas grösseren Zusammenhang stellen. Dazu drei Bemerkungen: 

Erstens: Um die Demokratie zu zerstören oder ihr zu schaden, braucht es keine KI. Handelsübliche Dummheiten tun es auch.

Demokratien werden insbesondere dann infrage gestellt, wenn ihre Voraussetzungen nicht mehr erfüllt sind: Rechtssicherheit, Gewaltenteilung, ein Minimum an Wohlfahrt und sozialer Ausgleich zwischen Reich und Arm, Solidarität mit den Hilfsbedürftigen, Bildung, Medienvielfalt, Vertrauen in die politischen Institutionen, Zuversicht, dass man eine Zukunft schafft, die besser wird als die Gegenwart. Zählen Sie einmal die Länder auf, von denen Sie überzeugt sind, dass diese Voraussetzungen noch alle erfüllt sind.

Die Demokratie ist auch unter Druck, weil sie in den Augen vieler Menschen nicht mehr geeignet scheint, die dringlichsten und grössten Probleme der Welt zu lösen.

Andere fühlen sich bei sich zu Hause nicht mehr zu Hause. In ihren Augen verändert sich alles viel zu schnell und in die falsche Richtung: Die Kriminalität in der eigenen Stadt steigt, die bisherigen Strukturen zerfallen, der gegenseitige Respekt, der Anstand und der Zusammenhalt schwinden, und das Vertrauen in die Politik sackt ab.

Und wieder andere glauben, es brauche heute keine Demokratie mehr, um erfolgreich wirtschaften zu können.

Die Demokratie ist unter Druck, weil sie eben mehr ist als die Aufregung darüber, ob der Franz oder der Fritz gewählt wird. Sie ist eine Errungenschaft, die empfindlich reagiert, wenn sie ausgehöhlt oder missbraucht wird, schon ohne künstliche, aber mit böswilliger Intelligenz. Umso mehr kommt es darauf an, welche Gesetze man beschliesst, um sie zu erhalten und zu verteidigen.

Zweitens: KI ist vielleicht ein gewaltiger Segen und vielleicht ein fürchterliches Risiko. Bei einer solchen Ausgangslage wird oft nur halbbatzig reguliert.

Vor fünf Jahren habe ich spekuliert, dass Friedrich Dürrenmatt, würde er heute noch leben, angesichts der Fortschritte in der KI nicht mehr die Komödie «Die Physiker» schreiben würde, sondern das Stück «Die Informatiker». 

Von den 21 Punkten, die Dürrenmatt damals als Anhang zu den Physikern veröffentlicht hatte, könnte man die meisten telquel übernehmen: «Je planmässiger die Menschen vorgehen, desto wirksamer vermag sie der Zufall zu treffen.» – «Was alle angeht, können nur alle lösen.» Und so weiter.

KI hat unerhört viele nützliche Anwendungen, die uns weiterbringen. Denken Sie nur an die Diagnostik oder an das Design von Molekülen in der Pharmaforschung. Im Energiebereich vom Reaktorbau bis zur möglichst effizienten Nutzung von Stromnetzen. Von der Chemie über die Materialwissenschaften bis zur Mathematik. Überall wird bereits heute KI eingesetzt.

Wie reguliert man und schützt vor KI?

KI hat aber auch erhebliche Risiken, wenn man andere einfach machen lässt: Wie verläuft in Zukunft die politische Meinungsbildung in Demokratien, wenn man nicht mehr weiss, welche Aussagen von Menschen und welche von Bots gemacht worden sind?

Wie kann man die eigenen Systeme und Plattformen vor den mit KI unterstützten Angriffen der anderen schützen? Wie reguliert man vorgängig KI, wenn man deren Wirkung erst richtig einschätzen kann, wenn man sie bereits eingesetzt hat? Oder nur schon: Wie «misst» man, was die KI-Unternehmen mit ihrer KI anrichten?

Und ich habe noch nicht einmal von der «Artificial Super Intelligence» gesprochen und was diese für die Demokratie bedeuten kann. Was heisst es genau, wenn eine Maschine statt ein Mensch entscheidet oder vorentscheidet? Etwa, wenn es um die Beurteilung von angeklagten oder verdächtigten oder unverdächtigen Personen geht oder um die Überwachung von Patienten.

Ich spreche von Entscheiden, die vielleicht zu 99 Prozent richtig sind und schnell. Aber in einem Prozent aller Fälle völliger Unsinn.

Dass wir nicht besonders gut sind bei der Regulierung auf dem Gebiet der Digitalisierung, haben wir schon mit den sozialen Medien bewiesen. Unsere Reaktion nach 2007: Staunen, loben, einführen, anwenden, überrascht sein, überfordert sein, zu spät sein und dann halbbatzig und halbherzig legiferieren. 

Aber die sozialen Medien haben viel verändert und verschoben: Wie wir andere und uns informieren, wie wir politische Kampagnen führen und wie wir sie finanzieren, wie wir debattieren, wie wir uns beschimpfen, provozieren und zetern im Netz.

Drittens: Es ist nichts in Stein gemeisselt. Es gibt Vorsichtsmassnahmen, die man treffen kann. Aber es braucht den politischen Willen, sich mit KI auseinanderzusetzen.

Im Gegensatz zur Radioaktivität ist künstliche Intelligenz kein Naturphänomen. Künstliche Intelligenz hat nichts mit Schicksal zu tun. Stephen Hawking stellte einmal mit dem ihm eigenen Humor fest, es sei ihm aufgefallen, dass selbst jene Leute, die davon ausgehen, alles sei vom Schicksal vorherbestimmt, nach links und nach rechts schauen, bevor sie die Strasse überqueren.

Was können wir also tun? Meines Erachtens schadet es nicht, sich an den Erfahrungen der Nukleartechnologie zu orientieren und zum Beispiel unabhängige Aufsichtsbehörden einzurichten, die die gesetzlichen Möglichkeiten haben, KI zu prüfen, Auflagen zu machen und zu kontrollieren. Es spricht auch nichts dagegen, die Zusammenarbeit mit unseren Universitäten und Hochschulen zu suchen, nicht nur, um die neuen Technologien besser zu verstehen, sondern um sich auch international besser einbringen zu können. 

Im Gegensatz zu dem, was zuweilen behauptet wird, hat die Schweiz nicht eigentlich ein Problem, international angehört zu werden. Aber sie muss sich auch mit eigenen Ideen einbringen wollen. Wenn wir nicht nur die Regulierungen von Dritten übernehmen wollen, dann müssen wir kompetenter sein als andere.

SRG wird wichtiger

Zu möglichen Schutzmassnahmen gehört im Übrigen auch unser öffentlich-rechtliches Radio und Fernsehen. Natürlich habe ich mich auch schon über einzelne Beiträge aufgeregt. Aber die SRG ist verpflichtet, «Informationsangebote für eine umfassende, vielfältige und sachgerechte Berichterstattung» zur Verfügung zu stellen.

Und diese Funktion wird im Zeitalter der künstlichen Intelligenz wichtiger. Selbst der Chefkommentator der «Financial Times» schreibt in diesem Zusammenhang: «Länder, die das Glück haben, hochwertige öffentlich-rechtliche Rundfunkanstalten zu besitzen, sollten diese bis zuletzt verteidigen.»

Es gebe immer Fragen zum Angebot, zur Qualität und zur Finanzierung, «und dennoch gehören diese Institutionen nach wie vor zu den wichtigsten Quellen von Fakten, nationaler Befindlichkeit und nationalem Meinungsaustausch». 

Wir müssen aufpassen

Damals, als die Radioaktivität entdeckt wurde, war man begeistert. Kaum eine Entdeckung wurde so schnell in konkrete Anwendungen überführt. Bald wurde eine radioaktive Zahnpasta verkauft: «Doramad, für ein strahlendes Lächeln». Dann folgte die radioaktive Unterwäsche, die eine wohlige und sanfte Wärme im Unterleib versprach. Das zeigt, dass man aufpassen muss. Es gibt technologische Anwendungen, auch wenn sie gut gemeint sind, die in die Hosen gehen können.

Marie Curie sagte damals, jetzt sei der Moment, die Dinge zu studieren, um sich weniger vor ihnen zu fürchten. Ich würde ergänzen: Jetzt ist der Moment, mehr zu verstehen, damit wir vernünftige  Gesetze erlassen können. Denn wenn die Demokratie nicht früh genug der KI den Stempel aufdrückt, wird früher oder später die KI der Demokratie den Stempel aufdrücken.

Fehler gefunden?Jetzt melden.