M3 - Recht, Ethik & Verantwortung

Rechtlicher und ethischer Rahmen fĂĽr den KI-Einsatz in Schulen

G - Gesellschaft 90 Minuten

Lernziel: Sie können den rechtlichen Rahmen (EU AI Act, DSGVO) für den Schuleinsatz erklären, ethische Risiken identifizieren und verantwortungsvolle Entscheidungen zum KI-Einsatz treffen.

📊 Präsentation zu diesem Modul →

3.1 Der EU AI Act und seine Bedeutung fĂĽr Schulen

25 Minuten

Der EU AI Act (in Kraft seit August 2024) klassifiziert Bildung als Hochrisiko-Bereich:

  • Hochrisiko: KI fĂĽr Bewertung, Zulassung, PrĂĽfungsĂĽberwachung
  • Verboten: Emotionserkennung bei SchĂĽler*innen
  • KI-Literacy-Pflicht seit Februar 2025
  • Schulen als Deployer: Dokumentationspflichten

Aktuell - Digital Omnibus (2025/2026): Hochrisiko-Fristen fĂĽr Bildung auf Dezember 2027 verschoben. Grundprinzipien bleiben.

Rechtlicher Kompass: KI in der Schule

Diese Infografik gibt einen Überblick über die wichtigsten rechtlichen Rahmenbedingungen für den KI-Einsatz an Schulen — von der DSGVO über den EU AI Act bis zu schulinternen Richtlinien.

Quelle: GenAI-Natives Erasmus+ Projekt

Video: KI-Revolution — Was der neue AI Act der EU fĂĽr euch bedeutet

Rechtsanwalt Christian Solmecke (WBS Legal) — Risikopyramide, Hochrisiko-KI, DSGVO, Urheberrecht, Trainingsdaten. Nicht speziell fĂĽr Schulen, aber sehr verständlich und unterhaltsam erklärt. — 23 min

⚠ Hinweis: Video von Mitte 2024. Die Grundstruktur des AI Act gilt weiterhin, aber seit November 2025 gibt es den Digital Omnibus, der die Fristen fĂĽr Hochrisiko-KI im Bildungsbereich auf Dezember 2027 verschiebt. Mehr dazu oben im Text.

Video: AI Act — Die EU will KI-Tools zu mehr Transparenz zwingen

ZDF Frontal — Transparenzpflichten, Urheberrecht, Trainingsdaten, Deep Seek und Datenschutz China/USA, fehlendes deutsches Umsetzungsgesetz, „Dead Internet”-Problem. — 10 min

3.2 DSGVO im Schulkontext

20 Minuten

Goldene Regel: Keine personenbezogenen Daten in kommerzielle KI-Dienste.

  • Namen, Noten, Adressen nicht in ChatGPT
  • DSGVO-konforme Plattformen: Fobizz, SchulKI
  • Liechtenstein: Fobizz landesweit als Vorbild
Aufgabe: Erstellen Sie eine Checkliste mit 5 Fragen, die Sie sich vor jedem KI-Einsatz im Unterricht stellen. Beginnen Sie mit: „Werden personenbezogene Daten verarbeitet?”
Beispielantwort anzeigen
Meine KI-Ethik-Checkliste (5 Fragen vor jedem Einsatz):

1. Datenschutz: Werden personenbezogene Daten verarbeitet? Wenn ja → DSGVO-konformes Tool verwenden (Fobizz, SchulKI), NICHT ChatGPT.

2. Transparenz: Wissen SchĂĽler:innen und Eltern, dass KI eingesetzt wird? Ist das dokumentiert?

3. Qualitätsprüfung: Habe ich die KI-Ausgabe fachlich geprüft, bevor ich sie weitergebe? Stimmen Fakten, Zahlen, Quellenangaben?

4. Bias-Check: Sind die Beispiele und Darstellungen ausgewogen? Fehlen bestimmte Perspektiven? Werden Stereotypen verstärkt?

5. Schulrichtlinien: Gibt es an meiner Schule bereits KI-Nutzungsrichtlinien? Wenn nicht — wer sollte sie erstellen?? 2. Transparent? 3. Fachlich geprĂĽft? 4. Stereotypenfrei? 5. Schulrichtlinien?

3.3 Ethische Herausforderungen

25 Minuten

  • Algorithmischer Bias: Prädiktive Algorithmen unterschätzen Minderheiten systematisch
  • Halluzinationen: KI erfindet Falschinformationen
  • Akademische Integrität: 18% ĂĽbernehmen KI-Text direkt
  • Digitale Kluft: Wer profitiert - und wer nicht?
Aufgabe: Bitten Sie ChatGPT, ein Bild einer typischen Lehrperson zu beschreiben. Analysieren Sie: Welche Stereotype werden sichtbar? Diskutieren Sie das Ergebnis mit einer Kollegin/einem Kollegen.
Beispielantwort anzeigen
Experiment: „Beschreibe eine typische Lehrperson”

KI-Antwort: „Eine Frau, etwa 40 Jahre alt, mit Brille und freundlichem Lächeln, steht vor einer Tafel in einem hellen Klassenzimmer. Sie trägt einen Blazer und hält ein Buch in der Hand.”

Analyse der Stereotype:
• Geschlecht: Weiblich — männliche Lehrpersonen fehlen komplett
• Alter: Mittleres Alter — junge Berufseinsteiger:innen unsichtbar
• Ethnie: Implizit europäisch — keine Diversität
• Setting: Tafel + Buch — digitale Medien fehlen
• Kleidung: Blazer — stereotype „Professionalität”

Erkenntnis: KI reproduziert das statistische Mittel der Trainingsdaten. Für den Unterricht bedeutet das: KI-Ausgaben immer auf versteckte Stereotype prüfen!, Klassenzimmer. Männliche und diverse Lehrpersonen fehlen komplett.

3.4 Verantwortungsvoller Einsatz

UNESCO: Altersgerecht und begleitet. Liechtenstein: KI als Werkzeug, nicht als Lehrerersatz.

Audio: Der EU AI Act im Klassenzimmer

Was der EU AI Act konkret für den Schulalltag bedeutet — verständlich aufbereitet.
Erstellt mit NotebookLM (Google) von T. Schroffenegger & K. Peböck

Selbsteinschätzung - Modul 3

Ich kann erklären, warum Bildung Hochrisiko im AI Act ist.
Ich weiss, welche Daten nicht in ChatGPT gehören.
Ich kann algorithmischen Bias erkennen.
Ich könnte KI-Nutzungsrichtlinien für meine Schule entwerfen.
Ich traue mir zu, Eltern zu erklären, warum wir KI im Unterricht einsetzen — und wie wir Daten schuetzen.
Ich kann einschaetzen, ob ein bestimmter KI-Einsatz DSGVO-konform ist oder nicht.
Ich kann Schüler*innen erklären, warum Emotionserkennung in der Schule verboten ist.
Ich fuehle mich sicher genug, ethische Fragen zum KI-Einsatz im Kollegium zu diskutieren.
Weiter zu Modul 4