EU verabschiedet «AI Act»So will die EU verhindern, dass künstliche Intelligenz Menschen unterdrückt
Die Europäische Union hat ein Gesetz entworfen, um die Bürgerinnen und Bürger vor künstlicher Intelligenz zu schützen. Das hat auch Auswirkungen auf die Schweiz.
Worum geht es?
Das EU-Parlament hat letzten Mittwoch mit grosser Mehrheit den AI Act beschlossen. Dieses «Gesetz über künstliche Intelligenz» gibt den rechtlichen Rahmen für den Einsatz solcher Systeme vor. Es soll sicherstellen, dass die Grundrechte der Europäerinnen und Europäer gewährleistet sind, und die EU strebt «vertrauenswürdige KI» an. Das Gesetz tritt in den nächsten Tagen in Kraft, aber für viele Regelungen gibt es eine Übergangszeit von zwei Jahren.
Welche Bereiche sind stark reglementiert?
Die EU hat sich für einen risikobasierten Ansatz entschieden, der vier Stufen unterscheidet: Anwendungen mit unakzeptablen Risiken sind verboten. Zu denen zählt ein Sozialkredit-System, wie es in China angewandt wird und das über einen «Social Score» erwünschtes Verhalten von Bürgerinnen und Bürgern belohnt und unliebsames Betragen bestraft.
Auch die Identifizierung von Personen anhand des Gesichts oder anderer biometrischer Merkmale ohne konkretes Ziel ist nicht erlaubt. Unternehmen dürfen keine Systeme einsetzen, die automatisch Rückmeldungen über den Gefühlszustand von Mitarbeitern und Kundinnen liefern: Derlei Systeme sind anfällig für Fehlurteile und diskriminierende Einschätzungen.
Hochriskante Systeme sind beim Verkehr und in der Medizin zu finden. Auch Systeme, die weitreichende Entscheidungen über Menschen fällen, gehören in diesen Bereich: Beispiele sind KI, die Prüfungen oder Bewerbungsdossiers beurteilen. Solche Systeme müssen strenge Auflagen erfüllen. Sie benötigen eine Risikobewertung und müssen Ergebnisse so dokumentieren, dass sie nachvollziehbar bleiben.
Wo ist der Umgang weniger streng?
Die zwei weiteren Stufen sind weniger streng reguliert. Zu den KI-Systemen mit überschaubarem Risiko zählen insbesondere die Chatbots: Bei deren Einsatz müssen Betreiber uns Nutzerinnen und Nutzer darauf aufmerksam machen, dass wir es mit einer Maschine zu tun haben. Sie müssen sicherstellen, dass KI-Inhalte als solche identifizierbar sind. Das gilt explizit für die sogenannten Deepfakes, also künstlich hergestellte Audio- und Videodateien.
KI mit minimalem Risiko dürfen frei genutzt werden. In diese Kategorie fallen etwa die Spamfilter bei den E-Mail-Betreibern oder Videospiele mit künstlicher Intelligenz.
Wie kommt das neue Gesetz an?
Die Reaktionen auf das neue Gesetz sind gemischt. EU-Kommissar Thierry Breton ist zufrieden: Das Gesetz sei «eine Startrampe für Start-ups und Forscher, um das globale Rennen um vertrauenswürdige KI anzuführen», sagt er.
Defizite ortet hingegen eine Vereinigung von Bürgerrechtsorganisationen. Die Organisation European Digital Rights (EDRi) kritisiert, die grossen EU-Migrationsdatenbanken müssten erst bis 2030 mit dem neuen Gesetz in Einklang gebracht werden. Noch harscher äussert sich die Piratenpartei. Patrick Breyer schreibt: «Statt uns vor einem Hightech-Überwachungsstaat zu schützen, regelt der AI Act penibel, wie man ihn einführt.» Das Verbot der biometrischen Erkennung lasse nämlich Hintertüren offen, indem eine Gesichtserkennung im öffentlichen Raum zur Suche nach Verdächtigen und Opfern von Straftaten erlaubt sei.
Der Kommentator des SWR ist der Ansicht, die EU sollte nicht die Anwendungen selbst regulieren, sondern den Anwendungszweck; Chat-GPT könne schliesslich für ganz unterschiedliche Vorhaben genutzt werden. Das Fachmagazin «Heise» prangert das Tempo an, mit dem das Gesetz durchgepeitscht wurde. Und ausgerechnet in den Bereichen mit dem höchsten Risiko greife das Gesetz nicht: «Polizei und Armee können KI-Systeme also weiterhin unabhängig von den Regulationen im AI Act einsetzen.»
Was bedeutet das Gesetz für Schweizerinnen und Schweizer?
Der AI Act gilt nicht in der Schweiz. Der Bund ist daran, die Auswirkungen des neuen Gesetzes auf die Schweiz zu analysieren, und er will bis Ende Jahr eine Strategie vorlegen, wie KI hierzulande reguliert werden könnte.
Die Auswirkungen des EU-Gesetzes werden jedoch wie bei der Datenschutz-Grundverordnung auch hierzulande zu spüren sein. Aus Sicht von Anwenderinnen und Anwendern ist das in manchen Bereichen positiv, wenn etwa Deepfakes deklariert werden müssen.
Schweizer Unternehmen, die Geschäfte mit der EU machen, müssen sich ans Gesetz halten. Da die EU eine weit gefasste KI-Definition anwendet und im Hochrisikobereich empfindliche Bussen drohen, ist das auch für KMU mit beträchtlichem Aufwand verbunden.
Fehler gefunden?Jetzt melden.
