M3 - Recht, Ethik & Verantwortung

Rechtlicher und ethischer Rahmen fĂŒr den KI-Einsatz in Schulen

G - Gesellschaft 90 Minuten

Lernziel: Sie können den rechtlichen Rahmen (EU AI Act, DSGVO) fĂŒr den Schuleinsatz erklĂ€ren, ethische Risiken identifizieren und verantwortungsvolle Entscheidungen zum KI-Einsatz treffen.

📊 PrĂ€sentation zu diesem Modul →

3.1 Der EU AI Act und seine Bedeutung fĂŒr Schulen

25 Minuten

Der EU AI Act (in Kraft seit August 2024) klassifiziert Bildung als Hochrisiko-Bereich:

  • Hochrisiko: KI fĂŒr Bewertung, Zulassung, PrĂŒfungsĂŒberwachung
  • Verboten: Emotionserkennung bei SchĂŒler*innen
  • KI-Literacy-Pflicht seit Februar 2025
  • Schulen als Deployer: Dokumentationspflichten

Aktuell - Digital Omnibus (2025/2026): Hochrisiko-Fristen fĂŒr Bildung auf Dezember 2027 verschoben. Grundprinzipien bleiben.

Rechtlicher Kompass: KI in der Schule

Diese Infografik gibt einen Überblick ĂŒber die wichtigsten rechtlichen Rahmenbedingungen fĂŒr den KI-Einsatz an Schulen — von der DSGVO ĂŒber den EU AI Act bis zu schulinternen Richtlinien.

Quelle: GenAI-Natives Erasmus+ Projekt

Video: KI-Revolution — Was der neue AI Act der EU fĂŒr euch bedeutet

Rechtsanwalt Christian Solmecke (WBS Legal) — Risikopyramide, Hochrisiko-KI, DSGVO, Urheberrecht, Trainingsdaten. Nicht speziell fĂŒr Schulen, aber sehr verstĂ€ndlich und unterhaltsam erklĂ€rt. — 23 min

⚠ Hinweis: Video von Mitte 2024. Die Grundstruktur des AI Act gilt weiterhin, aber seit November 2025 gibt es den Digital Omnibus, der die Fristen fĂŒr Hochrisiko-KI im Bildungsbereich auf Dezember 2027 verschiebt. Mehr dazu oben im Text.

Video: AI Act — Die EU will KI-Tools zu mehr Transparenz zwingen

ZDF Frontal — Transparenzpflichten, Urheberrecht, Trainingsdaten, Deep Seek und Datenschutz China/USA, fehlendes deutsches Umsetzungsgesetz, „Dead Internet”-Problem. — 10 min

3.2 DSGVO im Schulkontext

20 Minuten

Goldene Regel: Keine personenbezogenen Daten in kommerzielle KI-Dienste.

  • Namen, Noten, Adressen nicht in ChatGPT
  • DSGVO-konforme Plattformen: Fobizz, SchulKI
  • Liechtenstein: Fobizz landesweit als Vorbild
Aufgabe: Erstellen Sie eine Checkliste mit 5 Fragen, die Sie sich vor jedem KI-Einsatz im Unterricht stellen. Beginnen Sie mit: „Werden personenbezogene Daten verarbeitet?”
Beispielantwort anzeigen
Meine KI-Ethik-Checkliste (5 Fragen vor jedem Einsatz):

1. Datenschutz: Werden personenbezogene Daten verarbeitet? Wenn ja → DSGVO-konformes Tool verwenden (Fobizz, SchulKI), NICHT ChatGPT.

2. Transparenz: Wissen SchĂŒler:innen und Eltern, dass KI eingesetzt wird? Ist das dokumentiert?

3. QualitĂ€tsprĂŒfung: Habe ich die KI-Ausgabe fachlich geprĂŒft, bevor ich sie weitergebe? Stimmen Fakten, Zahlen, Quellenangaben?

4. Bias-Check: Sind die Beispiele und Darstellungen ausgewogen? Fehlen bestimmte Perspektiven? Werden Stereotypen verstÀrkt?

5. Schulrichtlinien: Gibt es an meiner Schule bereits KI-Nutzungsrichtlinien? Wenn nicht — wer sollte sie erstellen?? 2. Transparent? 3. Fachlich geprĂŒft? 4. Stereotypenfrei? 5. Schulrichtlinien?

3.3 Ethische Herausforderungen

25 Minuten

  • Algorithmischer Bias: PrĂ€diktive Algorithmen unterschĂ€tzen Minderheiten systematisch
  • Halluzinationen: KI erfindet Falschinformationen
  • Akademische IntegritĂ€t: 18% ĂŒbernehmen KI-Text direkt
  • Digitale Kluft: Wer profitiert - und wer nicht?
Aufgabe: Bitten Sie ChatGPT, ein Bild einer typischen Lehrperson zu beschreiben. Analysieren Sie: Welche Stereotype werden sichtbar? Diskutieren Sie das Ergebnis mit einer Kollegin/einem Kollegen.
Beispielantwort anzeigen
Experiment: „Beschreibe eine typische Lehrperson”

KI-Antwort: „Eine Frau, etwa 40 Jahre alt, mit Brille und freundlichem LĂ€cheln, steht vor einer Tafel in einem hellen Klassenzimmer. Sie trĂ€gt einen Blazer und hĂ€lt ein Buch in der Hand.”

Analyse der Stereotype:
• Geschlecht: Weiblich — mĂ€nnliche Lehrpersonen fehlen komplett
• Alter: Mittleres Alter — junge Berufseinsteiger:innen unsichtbar
• Ethnie: Implizit europĂ€isch — keine DiversitĂ€t
• Setting: Tafel + Buch — digitale Medien fehlen
• Kleidung: Blazer — stereotype „ProfessionalitĂ€t”

Erkenntnis: KI reproduziert das statistische Mittel der Trainingsdaten. FĂŒr den Unterricht bedeutet das: KI-Ausgaben immer auf versteckte Stereotype prĂŒfen!, Klassenzimmer. MĂ€nnliche und diverse Lehrpersonen fehlen komplett.

3.4 Verantwortungsvoller Einsatz

UNESCO: Altersgerecht und begleitet. Liechtenstein: KI als Werkzeug, nicht als Lehrerersatz.

Audio: Der EU AI Act im Klassenzimmer

Was der EU AI Act konkret für den Schulalltag bedeutet — verständlich aufbereitet.
Erstellt mit NotebookLM (Google) von T. Schroffenegger & K. Peböck

SelbsteinschÀtzung - Modul 3

Ich kann erklÀren, warum Bildung Hochrisiko im AI Act ist.
Ich weiss, welche Daten nicht in ChatGPT gehören.
Ich kann algorithmischen Bias erkennen.
Ich könnte KI-Nutzungsrichtlinien fĂŒr meine Schule entwerfen.
Ich traue mir zu, Eltern zu erklĂ€ren, warum wir KI im Unterricht einsetzen — und wie wir Daten schuetzen.
Ich kann einschaetzen, ob ein bestimmter KI-Einsatz DSGVO-konform ist oder nicht.
Ich kann SchĂŒler*innen erklĂ€ren, warum Emotionserkennung in der Schule verboten ist.
Ich fuehle mich sicher genug, ethische Fragen zum KI-Einsatz im Kollegium zu diskutieren.
Weiter zu Modul 4