Reiter
Datenschutz
Der Einzug von KI ins Bildungswesen bringt wesentliche Datenschutzfragen mit sich. Diese betreffen nicht nur den Schutz sensibler Daten von Schülerinnen und Schülern sowie Lehrkräften, sondern auch die Wahrung pädagogischer Prinzipien und die Förderung eines sicheren Lernumfelds. Die Fähigkeit von KI-Systemen, Lernverhalten zu analysieren und pädagogische Entscheidungen zu beeinflussen, macht es unerlässlich, bei der Anwendung dieser Technologien den Datenschutz von Anfang an zu berücksichtigen. Dies gewährleistet den Schutz der Privatsphäre von Lernenden und Lehrenden und erhält das Vertrauen in neue digitale Bildungswerkzeuge, die das Potenzial haben, den Lernprozess zu bereichern.
Gesetzlicher Rahmen
Die Datenschutzgesetze der Schweiz, insbesondere das Bundesgesetz über den Datenschutz (DSG) und die Verordnung über den Datenschutz (DSV), legen die Grundzüge des Datenschutzes fest, die auch im Kontext von KI im Bildungswesen von zentraler Bedeutung sind:
- Transparenz: KI-Anwendungen müssen offenlegen, wie und zu welchen Zwecken Daten verarbeitet werden.
- Zweckbindung: Daten dürfen nur für den vorher festgelegten, legitimen Zweck verwendet werden.
- Datenminimierung: Es sind nur so viele Daten zu erheben und zu verarbeiten wie für den festgelegten Zweck unbedingt notwendig.
- Richtigkeit: Personenbezogene Daten müssen korrekt sein und bei Bedarf aktualisiert werden.
- Speicherbegrenzung: Daten sollten nicht länger aufbewahrt werden, als es der ursprüngliche Zweck erfordert.
- Integrität und Vertraulichkeit: Es müssen angemessene Sicherheitsmassnahmen getroffen werden, um Daten vor unbefugter oder unrechtmässiger Verarbeitung und vor unbeabsichtigtem Verlust, Zerstörung oder Schaden zu schützen.
- Rechenschaftspflicht: Die verantwortlichen Stellen müssen die Einhaltung dieser Prinzipien nachweisen können.
Diese Grundprinzipien bilden das Fundament für den Datenschutz im Bildungsbereich beim Einsatz von KI. Sie dienen dazu, die Rechte der betroffenen Personen zu schützen und gleichzeitig den Bildungseinrichtungen die Nutzung dieser fortschrittlichen Technologie zu ermöglichen.
KI-spezifische Datenschutzherausforderungen
Die Mehrheit der KI-Systeme und -Dienste wird von Unternehmen mit Sitz in den USA entwickelt und betrieben. Dies bedeutet spezifische Datenschutzherausforderungen für die Schweiz:
- Die gesetzlichen Datenschutzstandards in den USA unterscheiden sich von jenen in der Schweiz, was zu Konflikten bezüglich des Schutzniveaus personenbezogener Daten führen kann. Die Durchsetzung des Schweizer Datenschutzrechts kann bei Anbietern mit Sitz in den USA schwierig sein.
- Für die Übertragung personenbezogener Daten aus der Schweiz in die USA müssen bestimmte Voraussetzungen erfüllt sein, um ein angemessenes Datenschutzniveau zu gewährleisten. Der Cloud Act hatte das Ziel, diese Voraussetzungen zu schaffen. Europäische Datenschutzbehörden halten ihn aber für unvereinbar mit der Datenschutzgrundverordnung der EU.
- Durch Gesetze wie den Cloud Act können US-Behörden unter Umständen auf Daten zugreifen, die von US-Unternehmen verarbeitet werden – auch wenn diese Daten sich ausserhalb der USA befinden. Dies stellt ein Risiko für den Datenschutz von Personen in der Schweiz dar, deren Daten von KI-Systemen US-amerikanischer Anbieter verarbeitet werden.
- Die Abhängigkeit von US-basierten KI-Diensten kann Risiken in Bezug auf die langfristige Verfügbarkeit und Kontrolle über die eingesetzten KI-Systeme und die verarbeiteten Daten bergen.
Um diesen Herausforderungen zu begegnen, müssen Schweizer Bildungseinrichtungen sorgfältig prüfen, mit welchen KI-Anbietern sie zusammenarbeiten und wie sie den Datenschutz ihrer Nutzenden unter diesen komplexen internationalen Bedingungen sicherstellen können. Dazu gehören die sorgfältige Auswahl von Dienstanbietern, die Einhaltung strenger Datenübermittlungsregeln und gegebenenfalls die Suche nach alternativen Lösungen, die den Schweizer Datenschutzstandards besser entsprechen.
Wie gehen KI-Anbieter mit meinen Daten um?
Alle Anbieter von kommerziellen LLM-Systemen im Web nutzen grundsätzlich sämtliche Daten, die sie erhalten. Dies betrifft einerseits persönliche Daten, die man beim Erstellen des Kontos angibt (wie die E-Mail-Adresse). Solche Daten werden gemäss den AGB seriöser Anbieter vertraulich behandelt.
Kritischer ist, dass sie sämtliche Interaktionen mit ihren Chatbots zum Training ihrer Sprachmodelle nutzen. Diese Daten können zwar nicht direkt von Sprachmodellen erfragt werden, allerdings gibt es (wie in jeder Software) immer wieder Fehler, die in der Vergangenheit beispielsweise dazu führten, dass Adressen oder Bankdaten, die die Nutzenden in ihren Chat eingegeben hatten, vom Chatbot an Dritte weitergegeben wurden.
Was heisst das für mich?
Grundsätzlich kann jede Person frei über eigene Daten verfügen und diese an Dritte weitergeben. Es ist also nicht verboten, einem Chatbot private Daten mitzuteilen, zum Beispiel indem man ihn bei gesundheitlichen Problemen oder für die eigene Ferienplanung um Rat fragt (es gibt bei Gesundheitsfragen allerdings noch andere Gründe als den Datenschutz, weshalb man vorsichtig sein sollte).
Problematisch ist allerdings immer, wenn man mit Daten Dritter arbeitet oder wenn man mit Daten arbeitet, die zwar persönlich sind, für die man aber gewisse Sorgfaltspflichten hat (wie Bankangaben). Solche Daten sollte man grundsätzlich nie einem Chatbot mitteilen, da man sich dadurch strafbar macht.
Regeln zum Umgang mit persönlichen Daten
- Lies das Kleingedruckte: Bevor du einen Chatbot nutzt, informiere dich, welche Daten er sammelt und wie diese verwendet werden. Stimme nur zu, wenn du einverstanden bist.
- Frage nach: Wenn dir nicht klar ist, was mit deinen Daten passiert, zögere nicht, beim Anbieter nachzufragen. Du hast das Recht, zu wissen, wie deine Informationen behandelt werden.
- Teile persönliche Daten mit Bedacht: Gib nur die Informationen preis, die für das Gespräch mit dem Chatbot nötig sind. Sei besonders vorsichtig mit sensiblen Daten wie deiner Adresse oder deinen Finanzinformationen.
- Teile keine Daten von Drittpersonen: Private Informationen Dritter dürfen dem Chatbot nicht mitgeteilt werden.
- Achte auf Datensicherheit: Stelle sicher, dass die Plattform, die den Chatbot hostet, sichere Datenübertragung (z. B. SSL/TLS-Verschlüsselung) verwendet. Dies erkennst du am Vorhängeschloss-Symbol in der Adressleiste.
- Nutze Datenschutzeinstellungen: Wenn verfügbar, passe die Datenschutzeinstellungen des Chatbots an deine Bedürfnisse an.
- Bleib anonym: Wenn möglich, verwende Pseudonyme oder anonymisierte Benutzerkonten und E-Mail-Adressen, um deine Identität zu schützen.
Zuletzt geändert: 05. Feb 2024, 17:35, [iris_leutert@stud.phzh.ch]