Rechtliche Aspekte und Künstliche Intelligenz

Rechtliche Aspekte zu Künstlicher Intelligenz

Ausgangslage

Zum jetzigen Zeitpunkt bestehen in der schweizerischen Rechtsordnung keine rechtlichen Bestimmungen, welche spezifisch auf künstliche Intelligenz (KI) zugeschnitten sind. Das heisst, es gelten diesbezüglich im Schulbereich weiterhin die aktuellen gesetzlichen Bestimmungen. Allerdings ist es empfehlenswert, sich über aktuelle rechtliche Entwicklungen im Bereich der KI auf der Website der Datenschutzbeauftragten des Kanton Zürichs auf dem Laufenden zu halten. 
Es ist zu beachten, dass bei der Benutzung der KI keine Personendaten bzw. besondere Personendaten verarbeitet werden (vgl. § 3 Abs. 3 des Gesetzes über die Information und den Datenschutz [IDG] resp. § 3 Abs. 4 IDG). Im Weiteren gilt auch bei der Benutzung der KI das Urheberrecht. Beispielsweise ist bei KI-generierten Bildern darauf zu achten, dass bei deren Verbreitung (z.B. Veröffentlichung im Internet) gegebenenfalls Urheberrechte verletzt werden können, wenn das KI-generierte Bild mit einem Werk einer Urheberin oder eines Urhebers zu grosse Ähnlichkeiten aufweist. Weiter beruhen beispielsweise verschiedene KI-Anwendungen auf der technischen Analyse von Handschriften oder Stimmerkennungen. Dabei handelt es sich um biometrische Daten, das heisst besondere Personendaten. Ausserdem kann aus der Art und der Häufigkeit der Nutzung sowie den abgefragten Inhalten ein datenschutzrechtlich relevantes Persönlichkeitsprofil eines Schulkindes angefertigt werden. Die Schule hat deshalb in solchen Fällen höhere datenschutzrechtliche Schutzvorkehrungen zu treffen.

Abweichende Datenschutzstandards

Die gesetzlichen Datenschutzstandards in den USA weichen von denjenigen der Schweiz ab, was zu Konflikten bezüglich des Schutzniveaus personenbezogener Daten führen kann. Darüber hinaus kann sich die Durchsetzung des schweizerischen Datenschutzrechts bei Anbietern von KI mit Sitz in den USA als schwierig erweisen.
Es ist empfehlenswert, persönliche Daten generell nur nach reiflicher Überlegung zu teilen. Auf das Teilen von Daten von Drittpersonen ist zu verzichten.


Zugang zu KI-Anwendungen – Unentgeltlichkeit des Unterrichts beachten

Aufgrund des Unentgeltlichkeitsgrundsatzes für die Volksschule (Art. 19 der Bundesverfassung [BV]) kann von Schülerinnen und Schülern nicht erwartet werden, über ein Mobiltelefon zu verfügen, um einen Zugang zu Anbietern von KI (bspw. ChatGPT) zu lösen. Es ist aber möglich, dass die zuständige Lehrperson eine Zugangsschnittstelle zu den KI-Programmen für die Schülerinnen und Schüler herstellt. Auch in dieser Konstellation müssen die Schülerinnen und Schüler aber instruiert werden, sorgfältig mit ihren persönlichen Daten umzugehen. Weiter muss im Hinblick auf die Aufsicht und Kontrolle sichergestellt sein, dass keine persönlichen Daten verwendet werden.

KI-Generatoren

Der Bildungsauftrag der Schule kann die Verwendung des KI-Generators als Unterrichtsmittel rechtfertigen. Dabei ist die Schule verantwortlich für die Datenbearbeitung. Die Eltern sind über den Einsatz von KI-Generatoren und die damit verbundenen Datenbearbeitungen zu informieren. Weitergehende Information dazu finden sich auf der Website der Datenschutzbeauftragten des Kanton Zürichs zum Thema «Einsatz von KI an Schulen» (Link zur Webseite der DSB ZH).

Weiterführende Links und Dokumente: