KI-Beauftragter Behörden

KI-Compliance in der Branche Behörden

Für öffentliche Verwaltungen ist der EU AI Act besonders streng. Art. 27 verpflichtet Behörden explizit zur Grundrechts-Folgenabschätzung vor Einführung von Hochrisiko-KI nach Anhang III (mit Ausnahme kritischer Infrastruktur, Anhang III Nr. 2). Die Grundrechts-Folgenabschätzung nach Art. 27 ergänzt eine etwaige Datenschutz-Folgenabschätzung nach Art. 35 DSGVO, ersetzt sie aber nicht: Die Datenschutz-Folgenabschätzung trifft bei hohem Risiko jeden Verantwortlichen gleichermaßen, während die Grundrechts-Folgenabschätzung gerade öffentliche Stellen und Erbringer öffentlicher Dienste verpflichtet. Grund ist die unmittelbare Grundrechtsbindung der öffentlichen Hand nach Art. 1 Abs. 3 GG und Art. 51 GRCh.

Typische Hochrisiko-Bereiche in der Verwaltung sind Sozialleistungen (Risikoeinschätzung bei Bürgergeld, Wohngeld), Strafverfolgung (prädiktive Polizeiarbeit), Bildung (Schüler-Zuweisung, Prüfungsbewertung) und Grenzkontrolle. Für Kommunen sind vor allem automatisierte Verwaltungsentscheidungen relevant — etwa bei Bauantragsvorprüfungen oder der Terminvergabe in Bürgerdiensten.

Neben dem AI Act greifen das Onlinezugangsgesetz (OZG), die Registermodernisierung, das Verwaltungsverfahrensgesetz und je nach Anwendungsbereich fachspezifische Regelungen (z. B. SGB, Polizeigesetze). Die Herausforderung ist meist weniger die rechtliche Analyse als die Vermittlung zwischen Fachabteilung, IT-Dienstleister (oft extern), Datenschutzbeauftragtem und Personalvertretung.

Regulatorischer Schnittpunkt

EU AI Act + OZG + Verwaltungsverfahrensrecht + Grundrechtsbindung (Art. 1 Abs. 3 GG). Die Pflicht zur Grundrechts-Folgenabschätzung nach Art. 27 ist für Behörden zwingend — nicht optional. Frühzeitige Einbindung der Personalvertretung und der behördlichen Datenschutzbeauftragten verhindert Projektverzögerungen.

Über DATUREX

DATUREX GmbH

Compliance-Kanzlei aus Dresden · Datenschutz · Informationssicherheit · KI-Compliance

TÜV-zertifizierter Datenschutzbeauftragter
TÜV-Informationssicherheit
BSI IT-Grundschutz-Praktiker
IHK-zertifiziert

Das DATUREX-Team betreut mittelständische Unternehmen, Behörden und Non-Profits bundesweit in Datenschutz und Informationssicherheit. Über 500 Compliance-Mandate. Mit Inkrafttreten des EU AI Act weiten wir diese Praxis konsequent auf KI-Compliance aus — fundiert durch denselben interdisziplinären Ansatz aus Recht, Technik und Prozess.

Ihr Ansprechpartner: Marcel Kießlich, Geschäftsführer. Für jedes Mandat benennen wir eine feste KI-Beauftragte bzw. einen festen KI-Beauftragten aus dem Team — ergänzt durch Fachkolleg:innen aus Datenschutz und IT-Sicherheit, wenn Themen sich überschneiden.

kontakt@daturex.de 0351 79593513 Termin buchen

KI im Behörden

Öffentliche Verwaltungen, Kommunen und Bundesbehörden setzen KI zunehmend ein, um Verwaltungsprozesse zu beschleunigen und Bürgerdienste zu verbessern. Vom automatisierten Antragsmanagement bis zum KI-gestützten Bürgerchat — die Digitalisierung der Verwaltung ist politischer Auftrag und regulatorische Herausforderung zugleich.

→ Automatisierte Bearbeitung von Verwaltungsvorgängen — KI-Klassifizierung von Anträgen und Bescheiden
→ KI-gestützte Dokumentenprüfung — automatische Texterkennung und Inhaltsprüfung bei Behördenpost
→ Chatbots im Bürgerdienst — KI-Assistenten für Auskünfte zu Verwaltungsleistungen
→ Prädiktive Analyse im Sozialbereich — KI-Systeme zur Risikoeinschätzung bei Leistungsgewährung
→ KI in der Steuerverwaltung — automatisierte Plausibilitätsprüfungen und Risikoselektion
→ Smart City Anwendungen — KI-gesteuerte Verkehrssysteme, Energieoptimierung, Sicherheitskameras

Risiken nach EU AI Act

Staatliche KI-Systeme unterliegen dem EU AI Act mit besonderer Strenge: Wenn KI-Systeme in Behörden über die Rechte und Leistungen von Bürgerinnen und Bürgern entscheiden, gelten nicht nur AI-Act-Anforderungen, sondern auch die Grundrechtsbindung des Staates. Fehlentscheidungen durch KI können Grundrechte verletzen und Haftungsansprüche auslösen.

⚠ Hochrisiko nach Anhang III Nr. 5 lit. d: KI zur Bewertung von Notrufen und Einsatzpriorisierung von Rettungs- und Notfalldiensten
⚠ Hochrisiko nach Anhang III Nr. 6: KI zur individuellen Risikoeinschätzung im Strafverfolgungsbereich
⚠ Besondere Anforderungen an menschliche Aufsicht (Human Oversight) bei behördlichen Entscheidungen
⚠ Transparenzpflichten gegenüber Bürgern bei KI-gestützten Verwaltungsentscheidungen (Art. 50)
⚠ Grundrechtsbindung der öffentlichen Gewalt erhöht Anforderungen an Fairness und Diskriminierungsfreiheit von KI

Warum ein externer KI-Beauftragter für Behörden?

✓ Verständnis der öffentlich-rechtlichen Besonderheiten und Grundrechtsbindung bei KI-Systemen

✓ Expertise bei hochsensiblen Bürgerdaten und deren DSGVO-Schutzanforderungen

✓ Unterstützung bei der Transparenz- und Dokumentationspflicht gegenüber Bürgerinnen und Bürgern

✓ Erfahrung mit vergaberechtlichen Anforderungen bei KI-Drittanbieterverträgen

Aus der Praxis

Aus der Praxis: Mittelgroße Stadtverwaltung

Ausgangslage

Eine Stadtverwaltung mit 640 Mitarbeitern plante die Einführung eines KI-Chatbots für den Bürgerservice sowie eines KI-gestützten Systems zur Vorprüfung von Wohngeld-Anträgen.

Herausforderung

Der Wohngeld-Vorprüfung-Einsatz fiel klar unter Anhang III Nr. 5 lit. a (Zugang zu öffentlichen Leistungen) — und damit Hochrisiko mit Pflicht zur Grundrechts-Folgenabschätzung. Intern war nicht ausreichend Kapazität für eine vollständige Folgenabschätzung vorhanden.

Unser Vorgehen

Wir führten die Grundrechts-Folgenabschätzung gemeinsam mit der kommunalen Datenschutzbeauftragten und dem Personalrat durch. Kernthemen: Diskriminierungsfreiheit (Test gegen Alter, Herkunft, Familienstand), Transparenzpflicht gegenüber Antragstellern, dokumentierter Einspruchsweg und Human-Oversight durch die Sachbearbeitung.

Ergebnis

Die Grundrechts-Folgenabschätzung wurde ohne Widerspruch vom Personalrat gebilligt. Der KI-Einsatz erfolgt ausschließlich als Vorsortierung — finale Entscheidungen werden durch Sachbearbeiter getroffen. Bürger werden mit einem standardisierten Hinweistext über den KI-Einsatz informiert.

Die Fallbeispiele sind anonymisierte, teils verallgemeinerte Illustrationen typischer Mandatsverläufe. Einzelne Kennzahlen sind exemplarisch.

Häufig gestellte Fragen für die Branche Behörden

Sind alle KI-Systeme in einer Kommune pflichtig zur Grundrechts-Folgenabschätzung? +

Nein. Die Pflicht zur Grundrechts-Folgenabschätzung nach Art. 27 greift nur für Hochrisiko-KI nach Anhang III. Für einfache Verwaltungs-KI (z. B. Textklassifikation bei Posteingang ohne Entscheidungsauswirkung) reichen die regulären Compliance-Prozesse.

Muss der Personalrat jeder KI-Einführung zustimmen? +

Bei KI-Systemen mit Einfluss auf Beschäftigte greift das Mitbestimmungsrecht nach Personalvertretungsrecht. Bei bürgerbezogenen KI-Systemen ist der Personalrat nicht zustimmungspflichtig, sollte aber früh informiert werden.