Kanton Zürich veröffentlicht Leitfaden für KI im Bildungswesen

Der KI-Trend macht auch vor dem Bildungswesen nicht halt. Der Einsatz von KI-basierten Tools bietet dabei Chancen, führt jedoch auch zu regulatorischen Herausforderungen. Um diese Herausforderung anzugehen, hat der Kanton Zürich eine Reihe rechtlicher Best Practices für künstliche Intelligenz in der Bildung veröffentlicht.

Das Dokument wurde basierend auf einem konkreten Anwendungsfall erarbeitet, bei dem Schülerinnen und Schüler mit einem Smartphone-Scan handschriftlich ausgefüllte Aufgaben automatisiert korrigierten. Der Leitfaden decke sowohl die Vorbereitung als auch Durchführung eines Bildungs-KI-Projekts und auch die datenschutzrechtlichen Implikationen eines solchen Projekts ab.

Die Autoren und Autorinnen des Leitfadens heben zudem einige Punkte von besonderem Interesse hervor:

• Vorsicht bei der Bearbeitung von Personendaten von Kindern
• Vorsicht bei der Bearbeitung von besonders schützenswerten Personendaten oder Profilings
• Vorsicht bei der Verwendung von (Personen-)Daten für eigene Zwecke
• Vorsicht bei der Verwendung von Lehrmitteln
• Vorsicht bei der Einbindung von Large Language Models

Empfehlungen für Kantone

Das Projektteam hinter dem Leitfaden gibt zudem eine Reihe von Empfehlungen an die regulatorischen Instanzen der übrigen Kantone ab:

• Einheitliche Strategie für Rechtssicherheit: Die rechtlichen Rahmenbedingungen variieren derzeit von Kanton zu Kanton. Eine einheitliche, landesweite Strategie und Regelung würde zur Rechtssicherheit und Konsistenz im Umgang mit KI-Anwendungen beitragen.
• Kantonale oder regionale Anlaufstellen für KI-Anbieter: Es wäre zielführend, kantonale oder regionale Anlaufstellen zu schaffen, bei denen KI-Anbieter ihre Produkte auf Datenschutzkonformität überprüfen lassen könnten.
• Verfolgung eigener Zwecke bei der KI-Produktentwicklung: Es sei ein intensiverer politischer und gesellschaftlicher Diskurs erforderlich, um zu klären, inwiefern es Herstellern ermöglicht werden sollte, Personendaten und geschützte Werke für innovative Entwicklungen im Bildungsbereich, für eigene Zwecke und für kommerzielle Aktivitäten zu nutzen. Hierbei sollte insbesondere die Balance zwischen Innovationsförderung und Schutz von persönlichen und geistigen Eigentumsrechten beachtet werden.

Den vollständigen Leitfaden gibt es hier als PDF.

Lesen Sie auch: Wie generative KI-Tools wie etwa ChatGPT den Unterricht an Schulen und Hochschulen verändern, erklärt Martin Volk, Professor am Institut für Informatik und Leiter des Instituts für Computerlinguistik an der Universität Zürich im Interview.