Künstliche IntelligenzZürich testet AI, die Hausaufgaben kontrolliert – Lehrerin begeistert
Der Kanton Zürich hat Vorteile und Gefahren von AI-Tool in Schulen und Verwaltung analysiert. Anbieter nutzen Benutzerdaten oft für eigene Zwecke.
Kinderleicht soll es sein: Sobald die Schülerinnen und Schüler fertig sind, fotografieren sie ihr handschriftliches Arbeitsblatt mit dem Smartphone oder dem Tablet ab. Ein Algorithmus kontrolliert die gelösten Aufgaben und markiert blitzschnell die Korrekturen direkt im Bild. Die Lehrperson muss nichts weiter tun und sieht bei sich auf der App, welche Kinder die Hausaufgaben gelöst und ob sie Lernfortschritte erzielt haben.
Die Korrekturapp der Schweizer Firma Herby Vision wurde in den letzten Monaten an fünf Schulen im Kanton Zürich erprobt. Das Feedback sei sehr positiv ausgefallen, sagt der für den Testlauf verantwortliche Raphael von Thiessen vom kantonalen Amt für Wirtschaft.
Eine am Test beteiligte Lehrerin sagt: «Die Kinder verwendeten die App ganz selbstständig und liebten es. Und ich konnte ihnen eine Rückmeldung geben, weil ich die Ergebnisse auf meinem Computer sah.» Sie musste nicht mehr Beigen von Aufgabenblättern abarbeiten, sondern konnte ihre Zeit f¨ür den Unterricht und die individuelle Unterstützung und Förderung einsetzen.
Trotzdem gibt es Bedenken. Anbieter von KI-Tools haben oft ein Interesse daran, die bei der Verwendung anfallenden Daten für eigene Zwecke zu nutzen – beispielsweise um ihre intelligenten Programme zu trainieren. Teilweise fliessen die Daten ab, etwa wenn Dritt-Tools wie Chat-GPT eingebunden sind. Für öffentliche Betriebe, Verwaltungen und Schulen kann das aus Datenschutzgründen zum Problem werden.
Um auszuloten, was möglich ist, hat das Zürcher Amt für Wirtschaft die «Innovation-Sandbox für KI» eingeführt. Der «Sandkasten» steht sinnbildlich für eine geschützte Lernumgebung, in welcher KI-Vorhaben umgesetzt und Erfahrungen gesammelt werden.
In der ersten, nun abgeschlossenen Projektphase sind fünf KI-Lösungen im Bereich der öffentlichen Verwaltung und Schulen erprobt worden. Daraus entstanden sind Leitfäden zur Umsetzung und zu rechtlichen Aspekten, die für andere Verwaltungen, Organisationen und Anbieter von Nutzen sein sollen. Sie wurden am Donnerstag an einer Medienkonferenz präsentiert.
Bei Anwendungen an Schulen wird gewarnt, dass die KI an besonders schützenswerte Personendaten gelangen könnte, etwa schulrelevante Gesundheitsdaten wie Legasthenie oder Dyskalkulie, Angaben zur Religion oder biometrische Daten, die auf der Analyse von Handschriften und Stimmerkennung beruhen.
«Es besteht eine dringende Notwendigkeit für klare Richtlinien, um sicherzustellen, dass KI verantwortungsbewusst und effektiv ins Bildungssystem integriert wird», heisst es deshalb im Leitfaden. Zudem müsse geklärt werden, inwiefern es Herstellern ermöglicht werden sollte, Personendaten für eigene Zwecke oder kommerzielle Aktivitäten zu nutzen.
Die Kamera muss schlecht sein – damit die KI nicht zu viel mitschneidet
Über die Metropolitankonferenz Zürich sind auch umliegende Kantone an der KI-Sandbox beteiligt. Ein weiterer Test aus dem Sandkasten ist ein Smart-Parking-Projekt in der Stadt Frauenfeld. Dort werden derzeit auf fünf öffentlichen Parkplätzen Kamerabilder automatisiert ausgewertet. In einer App ist in Echtzeit ersichtlich, welche Parkplätze frei sind.
Gemäss der Zürcher KI-Anbieterin Parquery bedarf es dafür bloss einer beliebigen Kamera vor Ort. Das ist günstiger als der Einsatz von Sensoren, aus Datenschutzsicht aber auch problematischer.
Der Sandbox-Programmleiter Raphael von Thiessen sagt, die Stadt Frauenfeld erhalte aus diesem Grund gar keine Bilder von der KI-Anbieterin, sondern nur numerische Daten in einem digitalen Dashboard. Die Auflösung der Kamera ist absichtlich so niedrig, dass keine Nummernschilder und Personen auf den Bildern zu erkennen sind. Nicht relevante Bildbereiche werden unkenntlich gemacht und die Bilder fortlaufend gelöscht.
Die künstliche Intelligenz eröffne ein neues Zeitalter, sagte Volkswirtschaftsdirektion Carmen Walker Späh (FDP) an der Medienkonferenz. «Die KI dringt im Eilzugstempo in unser Leben ein und krempelt unsere Gesellschaft und unsere Wirtschaft um. Diese Entwicklung findet statt – ob man es gut findet oder nicht.»
Der Kanton Zürich sei der führende KI-Standort in der Schweiz, von Start-ups bis hin zu grossen Technologiekonzernen wie Meta, Google und Apple seien die meisten namhaften Unternehmen hier vertreten. Mit Projekten wie der KI-Sandbox schaffe der Kanton Zürich jetzt die Rahmenbedingungen, um die Möglichkeiten auszunutzen und langfristig wettbewerbsfähig zu bleiben.
Fehler gefunden?Jetzt melden.
