KI-Beauftragter Bildung

KI-Compliance in der Branche Bildung

Bildungseinrichtungen stehen vor einer besonderen Herausforderung: Sie adressieren mit ihren KI-Systemen überwiegend Minderjährige, also eine besonders schutzwürdige Gruppe. Anhang III Nr. 3 EU AI Act stuft KI-Systeme, die Bildungszugang oder -ergebnisse bestimmen, als Hochrisiko ein. Darunter fallen automatisierte Prüfungsbewertung, Zulassungsentscheidungen und adaptive Lernsysteme mit Entscheidungsauswirkung.

Für Hochschulen und Schulen kommt die landesrechtliche Komponente hinzu: Schul- und Hochschulgesetze, Datenschutzgesetze der Länder und die Schulverordnungen regeln Details, die der EU AI Act nicht abbildet. Praktisch bedeutet das: Eine einheitliche KI-Strategie für bundesweit tätige EdTech-Anbieter ist aufwendig, aber machbar — mit sauberer Dokumentation der länderspezifischen Anforderungen.

Ein unterschätztes Thema ist KI-Detektion. Plagiatserkennungssysteme und KI-Kontrolltools behaupten, KI-generierte Inhalte zuverlässig zu erkennen — wissenschaftlich ist das umstritten. Falsch-Positive können zu Prüfungsverfahren oder Notenabzügen führen, die rechtlich angreifbar sind. Einsatz solcher Systeme ohne dokumentierte Fehlertoleranzen und klare Eskalationswege ist ein Haftungsrisiko.

Regulatorischer Schnittpunkt

EU AI Act + Schul-/Hochschulgesetze (Länder) + DSGVO + Jugenddatenschutz + Prüfungsrecht. Die Einbindung des Personalrats und der Schüler-/Studierendenvertretungen ist nicht nur rechtlich, sondern auch kommunikativ entscheidend.

Über DATUREX

DATUREX GmbH

Compliance-Kanzlei aus Dresden · Datenschutz · Informationssicherheit · KI-Compliance

TÜV-zertifizierter Datenschutzbeauftragter
TÜV-Informationssicherheit
BSI IT-Grundschutz-Praktiker
IHK-zertifiziert

Das DATUREX-Team betreut mittelständische Unternehmen, Behörden und Non-Profits bundesweit in Datenschutz und Informationssicherheit. Über 500 Compliance-Mandate. Mit Inkrafttreten des EU AI Act weiten wir diese Praxis konsequent auf KI-Compliance aus — fundiert durch denselben interdisziplinären Ansatz aus Recht, Technik und Prozess.

Ihr Ansprechpartner: Marcel Kießlich, Geschäftsführer. Für jedes Mandat benennen wir eine feste KI-Beauftragte bzw. einen festen KI-Beauftragten aus dem Team — ergänzt durch Fachkolleg:innen aus Datenschutz und IT-Sicherheit, wenn Themen sich überschneiden.

kontakt@daturex.de 0351 79593513 Termin buchen

KI in der Bildung

Bildungseinrichtungen und EdTech-Unternehmen stehen vor einem Dilemma: KI kann Lernprozesse individualisieren und Lehrkräfte entlasten — aber KI-gestützte Bewertungen haben direkte Auswirkungen auf Bildungswege und Lebenschancen. Der EU AI Act erkennt diese Brisanz und stuft bestimmte Bildungs-KI als Hochrisiko ein.

→ Adaptive Lernsysteme — KI-gestützte Personalisierung von Lernpfaden und Übungsaufgaben
→ Automatisierte Bewertung — KI-Systeme zur Auswertung von Aufsätzen, Prüfungen und Aufgaben
→ Learning Analytics — KI-gestützte Analyse von Lernfortschritt und Engagement-Metriken
→ KI-Tutoren und Chatbots — automatisierte Beantwortung von Lernfragen und Erklärungsassistenten
→ Plagiatserkennung — KI-gestützte Prüfung von Abgaben auf Plagiate und KI-generierte Inhalte
→ Prüfungsaufsicht — KI-gestützte Remote-Proctoring-Lösungen für Online-Prüfungen

Risiken nach EU AI Act

Der EU AI Act sieht für KI in der Bildung besondere Schutzanforderungen vor — insbesondere wenn KI-Systeme den Zugang zu Bildungsmaßnahmen oder die Bewertung von Lernenden beeinflusst. Hinzu kommt der besondere Schutz für Minderjährige, der verschärfte Anforderungen an Einwilligung, Transparenz und Datenschutz mit sich bringt.

⚠ Hochrisiko nach Anhang III Nr. 3: KI-Systeme zur Beurteilung von Schülern/Studierenden in Bildungsinstitutionen, die den Zugang zu Bildungsmaßnahmen bestimmen
⚠ Besonderer Schutz für Minderjährige: Verschärfte Anforderungen beim Einsatz von KI-Systemen mit Minderjährigen
⚠ Transparenzpflicht: Lernende müssen über den Einsatz von KI-Systemen bei Bewertungen informiert werden
⚠ Datenschutzrisiken: Lernverhaltensdaten sind besonders sensibel — DSGVO-Anforderungen für pädagogische Daten
⚠ Einwilligungsmanagement: KI-Profilbildung über Lernende erfordert differenzierte Rechtsgrundlagen

Warum ein externer KI-Beauftragter für Bildung?

✓ Expertise bei Hochrisiko-KI in Bildungsbewertungssystemen nach Anhang III Nr. 3

✓ Verständnis der besonderen Schutzanforderungen für Minderjährige und deren Daten

✓ Unterstützung bei Transparenzpflichten gegenüber Lernenden, Eltern und Aufsichtsbehörden

✓ DSGVO-Expertise für Lernanalytik und pädagogische Datenverarbeitung

Aus der Praxis

Aus der Praxis: EdTech-Anbieter mit adaptivem Lernsystem

Ausgangslage

Ein Bildungsanbieter mit rund 40 Mitarbeitern entwickelt ein KI-gestütztes Mathematik-Lernsystem für Schulen. Das System passt Aufgaben adaptiv an das Leistungsniveau der Lernenden an.

Herausforderung

Einige Schulträger verlangten vor Vertragsabschluss eine AI-Act-Konformitätsbestätigung. Das Produkt war ursprünglich nur datenschutzrechtlich geprüft worden.

Unser Vorgehen

Wir erstellten die vollständige Anhang-IV-Dokumentation mit besonderem Fokus auf: Trainingsdaten-Provenienz (Aufgaben aus lizenzierten Schulbüchern), Fairness-Tests gegenüber Leistungsvariationen, Transparenz-Hinweise für Lernende und Eltern, Eskalationsweg bei fehlerhaften Adaptionen. Zusätzlich ein vereinfachtes zweiseitiges "Eltern-Info-Blatt".

Ergebnis

Das Unternehmen konnte die geforderte Konformität nachweisen und gewann im folgenden Ausschreibungszyklus zwei Landesverträge, die ohne die Dokumentation nicht erreichbar gewesen wären.

Die Fallbeispiele sind anonymisierte, teils verallgemeinerte Illustrationen typischer Mandatsverläufe. Einzelne Kennzahlen sind exemplarisch.

Häufig gestellte Fragen für die Branche Bildung

Fällt jedes E-Learning-System unter Hochrisiko? +

Nein. Nur Systeme mit entscheidungsrelevanter Auswirkung (Zulassung, Prüfungsbewertung, Kursempfehlung mit Konsequenz). Reines adaptives Übungsmaterial ohne Bewertungsauswirkung ist meist "begrenzt riskant".

Dürfen Schulen ChatGPT im Unterricht einsetzen? +

Grundsätzlich ja, mit Grenzen: keine Eingabe personenbezogener Schülerdaten in die Cloud-Version, dokumentierte Schulung der Lehrkraft, Einverständnis der Eltern bei Minderjährigen. Viele Länder haben dazu konkrete Handreichungen veröffentlicht.