KI-Folgenabschätzung erstellen: Anleitung in 7 Schritten

Die KI-Folgenabschätzung (Fundamental Rights Impact Assessment) nach Art. 27 EU AI Act ist ein strukturiertes Verfahren zur Bewertung der Auswirkungen eines Hochrisiko-KI-Systems auf Grundrechte und Betroffene. Sie ist Pflicht für bestimmte Betreiberkonstellationen und zunehmend auch für private Unternehmen ein Qualitätsmerkmal — nicht zuletzt, weil sie bei einer späteren Aufsichtsprüfung zeigt, dass das Unternehmen seine KI-Einsätze ernsthaft reflektiert hat.

Dieser Ratgeber beschreibt die 7 Arbeitsschritte einer belastbaren KI-Folgenabschätzung mit konkreten Prüffragen und grenzt sie von der Datenschutz-Folgenabschätzung (DSFA) nach DSGVO Art. 35 ab.

Wann ist eine KI-Folgenabschätzung Pflicht?

Art. 27 EU AI Act verpflichtet bestimmte Betreiber von Hochrisiko-KI-Systemen zur Folgenabschätzung:

1. Einrichtungen des öffentlichen Rechts (Behörden, Kommunen, staatliche Unternehmen)
2. Private Akteure, die öffentliche Dienste erbringen (z.B. Energieversorger, Krankenhäuser, Bildungseinrichtungen)
3. Betreiber von Hochrisiko-KI nach Anhang III Nr. 5 b) und c) — speziell bei Kreditwürdigkeitsprüfung und Risikobewertung in der Lebens- und Krankenversicherung

Für rein privatwirtschaftliche Unternehmen außerhalb dieser Kategorien ist die KI-Folgenabschätzung nicht verpflichtend — aber stark empfohlen. Grund: Sie ist ein exzellentes Governance-Instrument, reduziert Haftungsrisiken und signalisiert gegenüber Aufsichtsbehörden, Kunden und Mitarbeitern verantwortungsvolle KI-Nutzung.

Abgrenzung zur Datenschutz-Folgenabschätzung (DSFA)

KI-Folgenabschätzung und DSFA haben Schnittmengen, sind aber nicht identisch:

Dimension	DSFA (Art. 35 DSGVO)	KI-Folgenabschätzung (Art. 27 EU AI Act)
Rechtsgrundlage	DSGVO	EU AI Act
Gegenstand	Verarbeitung personenbezogener Daten	KI-Systeme (auch ohne Personenbezug)
Schutzgut	Datenschutz + Betroffenenrechte	Grundrechte insgesamt (Gleichbehandlung, Würde, Meinungsfreiheit etc.)
Verantwortlich	Datenschutzbeauftragter	KI-Beauftragter (in Abstimmung mit DSB)
Behördenmeldung	An Datenschutzaufsicht (wenn Risiko nicht mitigierbar)	Noch offen — Marktüberwachungsbehörde

Wichtig: Bei KI mit Personenbezug sind beide Folgenabschätzungen erforderlich. In der Praxis sollten sie integriert erstellt werden — das spart Aufwand und vermeidet Widersprüche zwischen den Dokumenten.

Die 7 Arbeitsschritte einer KI-Folgenabschätzung

Schritt 1: Systembeschreibung

Der erste Schritt dokumentiert, welches System überhaupt betrachtet wird. Kernelemente:

• Name, Version, Hersteller des Systems
• Zweckbestimmung (konkret, nicht „Produktivitätssteigerung”)
• Einsatzkontext: Abteilung, Prozess, Entscheidungsumgebung
• Schnittstellen zu anderen Systemen
• Zeithorizont des Einsatzes (Einführungsdatum, geplante Lebensdauer)
• Verarbeitete Datenarten (personenbezogen, nicht personenbezogen, besondere Kategorien)

Diese Informationen sollten bereits im KI-Register dokumentiert sein. Die Folgenabschätzung baut darauf auf.

Schritt 2: Identifikation betroffener Personen und Gruppen

Wer ist vom KI-System betroffen — direkt oder indirekt? Hier hilft eine Betroffenheitsmatrix:

• Direkt Betroffene: Personen, über die das System Entscheidungen trifft (Bewerber, Kunden, Patienten)
• Indirekt Betroffene: Personen, die von Entscheidungen abhängen (z.B. Angehörige eines Patienten)
• Nutzer des Systems: Mitarbeiter, die mit dem System arbeiten
• Besondere Gruppen: Minderjährige, Menschen mit Behinderungen, Personen aus marginalisierten Gruppen, bei denen Bias-Risiken höher sein können

Für jede Gruppe wird dokumentiert: Anzahl (geschätzt), Sensibilität der Entscheidungen, Abhängigkeitsgrad.

Schritt 3: Identifikation berührter Grundrechte

Welche Grundrechte werden durch das System potentiell berührt? Die EU-Charta der Grundrechte bietet den Referenzrahmen — insbesondere relevant sind:

• Art. 1: Menschenwürde (Emotionserkennung, Profiling)
• Art. 2: Recht auf Leben (Medizin-KI, Verkehrs-KI)
• Art. 7: Privatleben (biometrische Systeme, Überwachung)
• Art. 8: Datenschutz (immer bei Personenbezug)
• Art. 10: Gedanken-, Gewissens- und Religionsfreiheit
• Art. 11: Meinungsfreiheit (Content Moderation, Empfehlungs-KI)
• Art. 14: Bildungsfreiheit (KI im Schul-/Hochschulbereich)
• Art. 15: Berufsfreiheit (HR-KI, Bewerberscreening)
• Art. 20/21: Gleichheit vor dem Gesetz + Nichtdiskriminierung (Scoring, Ranking)
• Art. 34: Soziale Sicherheit (KI bei Sozialleistungen)
• Art. 47: Recht auf wirksamen Rechtsbehelf (automatisierte Entscheidungen ohne Widerspruch)

Für jedes berührte Grundrecht wird kurz begründet, warum das System damit in Berührung kommt.

Schritt 4: Risikoanalyse pro Grundrecht

Für jedes identifizierte Grundrecht eine strukturierte Risikobewertung:

• Welche Beeinträchtigung ist möglich? Konkretes Szenario benennen.
• Eintrittswahrscheinlichkeit: niedrig / mittel / hoch — mit Begründung.
• Schwere der Beeinträchtigung: geringfügig / erheblich / schwerwiegend / irreversibel.
• Betroffene Anzahl: Einzelfall, einige, viele, alle Nutzer?

Aus Wahrscheinlichkeit × Schwere ergibt sich das Grundrechts-Risiko. Typische Risiken bei Hochrisiko-KI:

• Diskriminierung bei Bewerberscreening (Art. 20/21)
• Falschentscheidung bei Kreditwürdigkeit (Art. 15 berufliche Entfaltung)
• Fehlbefund in Medizin-KI (Art. 2 Leben/Gesundheit)
• Profilbildung bei Bildungs-KI (Art. 14 + Art. 8)
• Verzerrungen bei Strafverfolgung (Art. 20 + Art. 47)

Schritt 5: Ursachenanalyse

Woher kommen die identifizierten Risiken? Vier typische Quellen:

• Trainingsdaten: unterrepräsentierte Gruppen, historische Bias-Muster, veraltete Daten
• Modellarchitektur: Intransparenz (Black Box), mangelnde Robustheit gegen Edge Cases
• Einsatzkontext: falsche Anwendung, fehlende menschliche Aufsicht, Drift über Zeit
• Nutzung durch Menschen: Über- oder Untervertrauen, fehlende Qualifikation

Die Ursachenanalyse ist entscheidend, weil sie die Mitigationsmaßnahmen bestimmt. Ein Datenbias wird anders mitigiert als ein Modell-Drift.

Schritt 6: Mitigationsmaßnahmen

Für jedes relevante Risiko werden konkrete Gegenmaßnahmen definiert:

Technische Mitigationen:

• Datenbereinigung und Bias-Korrektur
• Modell-Auditing und Explainability-Tools
• Schwellwerte und Konfidenz-Checks
• Regelmäßige Neu-Validierung gegen Test-Datensätze

Organisatorische Mitigationen:

• Menschliche Aufsicht und Freigabeprozesse
• Rollenklärung (wer darf intervenieren?)
• Schulungen und Sensibilisierung der Nutzer
• Monitoring-Kennzahlen mit Eskalationspfaden

Rechtliche/Prozessuale Mitigationen:

• Betroffeneninformation vor Anwendung
• Widerspruchs- und Anfechtungsrechte
• Protokollierung für spätere Nachvollziehbarkeit
• Anbindung an Beschwerdesystem

Nach der Mitigation wird das Risiko neu bewertet — Restrisiko dokumentieren.

Schritt 7: Konsultation und Dokumentation

Die Folgenabschätzung ist kein Einzelkämpfer-Dokument. Mindestens einzubinden:

• KI-Beauftragter (führt das Verfahren)
• Datenschutzbeauftragter (bei Personenbezug)
• Betriebsrat / Personalrat (bei Mitarbeiter-relevanten Systemen, BetrVG §87)
• Fachabteilung (die das System nutzt)
• Geschäftsleitung (formelle Freigabe)

Bei besonders sensiblen Systemen (z.B. Behörden-KI mit Bürgerentscheidungen) ist zusätzlich eine externe Konsultation empfehlenswert — etwa mit betroffenen Verbänden oder Ethikkommissionen.

Das fertige Dokument enthält alle 6 vorherigen Schritte plus eine Zusammenfassung für die Geschäftsleitung, eine formale Freigabe mit Datum und Unterschrift, sowie einen Review-Zyklus (mindestens jährlich, zusätzlich bei wesentlichen Systemänderungen).

Ein konkretes Beispiel: KI-Bewerberscreening

Zur Illustration, wie eine kompakte Folgenabschätzung für ein HR-KI-System aussehen kann:

• System: KI-basiertes Ranking von Bewerbungen, Einsatz seit Q2/2026
• Betroffene: ca. 2.500 Bewerber/Jahr; besondere Berücksichtigung: Frauen (Bias-Historie), Menschen mit Migrationsgeschichte (Namen-Bias), Bewerber ü50 (Erfahrungsgewichtung)
• Grundrechte: Art. 15 Berufsfreiheit, Art. 20/21 Nichtdiskriminierung, Art. 8 Datenschutz
• Risiko 1: Diskriminierende Ranking-Ergebnisse durch unausgewogene Trainingsdaten. Schwere: erheblich. Wahrscheinlichkeit: mittel. → Mitigation: vierteljährliche Bias-Audits gegen Referenz-Datensatz, HR prüft jede Top-10-Liste manuell auf Auffälligkeiten.
• Risiko 2: Black-Box-Entscheidungen ohne Begründungsmöglichkeit. Schwere: erheblich. → Mitigation: Einsatz von Explainability-Modul, Bewerber erhalten auf Anfrage die 3 wichtigsten Ranking-Faktoren.
• Restrisiko: niedrig. Freigabe durch Geschäftsleitung. Jährlicher Review.

Ein solches Dokument umfasst typischerweise 15–25 Seiten — plus Anhänge mit technischer Dokumentation des Modells und aktuellen Audit-Ergebnissen.

Die häufigsten Fehler

Aus unserer Mandatspraxis sehen wir folgende Fehler besonders häufig:

1. Folgenabschätzung nur als Formular-Ausfüllen — wer Pflichtfelder „abhakt”, ohne echte Risikoanalyse zu machen, produziert ein Alibi-Dokument ohne Wert.
2. Keine Mitigation, nur Risikobeschreibung — Risiken identifizieren ist der einfache Teil. Ohne konkrete Gegenmaßnahmen bleibt das Dokument wirkungslos.
3. Kein Review-Zyklus — die Folgenabschätzung wird einmal erstellt und dann vergessen. Bei Modelländerungen oder Drift wird sie nicht aktualisiert.
4. DSB und KI-Beauftragter arbeiten parallel — statt integriertes Dokument entstehen zwei konkurrierende Texte. Empfehlung: gemeinsame Folgenabschätzung, klare Rollenteilung nach DSB vs. KI-Beauftragter.
5. Betriebsrat zu spät eingebunden — BetrVG §87 greift spätestens bei Einführung. Wer den Betriebsrat erst kurz vor Inbetriebnahme einbindet, hat operative Probleme.

Wie DATUREX unterstützt

Die Erstellung von KI-Folgenabschätzungen ist Kernbestandteil unserer KI-Folgenabschätzung-Leistung. Typischer Ablauf:

1. Scoping-Workshop: 2 Stunden mit Fachabteilung, DSB, IT — Systembeschreibung + Betroffenenanalyse
2. Strukturierte Risikoanalyse: 3–5 Arbeitstage, in enger Abstimmung mit Systemverantwortlichen
3. Mitigations-Workshop: 2 Stunden zur Definition und Priorisierung der Gegenmaßnahmen
4. Dokumentation: Erstellung des fertigen Berichts inkl. Executive Summary
5. Formale Freigabe: Begleitung durch Geschäftsleitungs-Präsentation
6. Review-Integration: Einbindung in das laufende KI-Monitoring

Für Mandanten mit Paket L ist die erste KI-Folgenabschätzung pro Jahr enthalten; weitere werden nach tatsächlichem Aufwand berechnet.

Fazit

Die KI-Folgenabschätzung ist kein bürokratischer Selbstzweck — sie ist das schärfste Instrument, um ein Hochrisiko-KI-System vor Inbetriebnahme ernsthaft zu durchdenken. Unternehmen, die diesen Prozess gelebt haben, sind typischerweise überrascht, wie viel Klarheit er über eigentlich „bekannte” Systeme schafft. Mit strukturiertem Vorgehen und klaren Rollen ist auch ein komplexes Assessment in 4–6 Wochen belastbar erstellbar.