Konformitätsbewertung Art. 43 EU AI Act: Was Betreiber wirklich leisten müssen

Artikel 43 des EU AI Act regelt die Konformitätsbewertung für Hochrisiko-KI — das formale Verfahren, mit dem nachgewiesen wird, dass ein KI-System alle Anforderungen des EU AI Act erfüllt. Für viele mittelständische Unternehmen ist dieses Thema abstrakt, bis eine Behörde oder ein B2B-Kunde nachfragt. Dann wird es schnell konkret: ohne Konformitätsbewertung kein CE-Zeichen, ohne CE-Zeichen kein Marktzugang.

Dieser Ratgeber erklärt das Verfahren praxisnah, grenzt die Pflichten von Anbietern (die bewertet werden müssen) und Betreibern (die eine saubere Lieferanten-Kontrolle brauchen) ab, und zeigt, welche Rolle der externe KI-Beauftragte dabei spielt.

Wer muss eine Konformitätsbewertung durchführen?

Die Konformitätsbewertung nach Art. 43 trifft Anbieter von Hochrisiko-KI — also Akteure, die ein System unter eigenem Namen oder eigener Marke entwickeln oder in Verkehr bringen. Nicht betroffen sind in erster Linie Betreiber (Unternehmen, die fremdentwickelte KI einsetzen).

Die Grenze verschiebt sich aber schnell: Sobald ein Betreiber ein fremdes System wesentlich modifiziert — etwa durch Retraining mit eigenen Daten, durch Kombination mit anderen Modulen oder durch Änderung der Zweckbestimmung — kann er zum Anbieter werden und eigene Konformitätspflichten erben. Das ist ein häufig unterschätztes Risiko: Wer „nur” ChatGPT mit firmeneigenen Prompt-Templates und RAG-Pipelines einsetzt, rutscht bei enger Auslegung in die Anbieterrolle.

Die EU-Kommission hat hier erste Leitlinien veröffentlicht, die pragmatisch sind: Solange der fremde KI-Kern unverändert bleibt und lediglich integrale Anpassungen erfolgen (Prompts, RAG-Quellen, UI), bleibt der Status „Betreiber” erhalten. Wer dagegen das Modell neu trainiert oder Fine-Tuning auf spezifische Entscheidungsszenarien betreibt, wird Anbieter.

Zwei Bewertungs-Varianten: Intern oder Benannte Stelle

Art. 43 unterscheidet zwei Verfahren:

Variante A: Interne Kontrolle (Anhang VI)

Für die meisten Hochrisiko-KI nach Anhang III ist eine interne Kontrolle zulässig. Das Unternehmen führt die Bewertung selbst durch, basierend auf eigenem Qualitätsmanagementsystem und eigener technischer Dokumentation nach Anhang IV. Es gibt keine externe Prüfung durch eine notifizierte Stelle.

Das klingt einfach, ist aber in der Praxis anspruchsvoll: Die interne Kontrolle erfordert ein dokumentiertes QMS nach Art. 17, eine vollständige technische Dokumentation (oft 50–150 Seiten), ein Risikomanagementsystem nach Art. 9 und eine dokumentierte Datenlage. Wer hier schludert, haftet bei einer späteren Prüfung voll.

Variante B: Prüfung durch eine notifizierte Stelle (Anhang VII)

Für biometrische Systeme nach Anhang III Nr. 1 ist grundsätzlich das Konformitätsbewertungsverfahren unter Beteiligung einer notifizierten Stelle (Anhang VII) vorgesehen; die rein interne Kontrolle nach Anhang VI genügt nur, soweit der Anbieter harmonisierte Normen vollständig angewendet hat. In der Praxis ist daher meist eine notifizierte Stelle einzuschalten. Notifizierte Stellen sind in Deutschland voraussichtlich TÜV SÜD, TÜV Nord, Dekra und spezialisierte IT-Prüfer. Ihre Prüfung umfasst Design-Review, technische Dokumentation, Prüfverfahren und Stichprobenkontrolle.

Dieses Verfahren kostet typischerweise 30.000–150.000 € und dauert 3–9 Monate. Es ist zwingend bei biometrischen Fernidentifikationssystemen und freiwillig bei allen anderen Hochrisiko-KI, wenn man zusätzliche Reputation aufbauen möchte.

Die 7 Schritte der internen Konformitätsbewertung

Wer sich für die interne Kontrolle entscheidet, durchläuft folgende sieben Schritte:

Schritt 1: Aufbau eines QMS nach Art. 17. Das Qualitätsmanagementsystem dokumentiert Strategien, Verfahren, Verantwortlichkeiten, Ressourcen und Kontrollen für die KI-Compliance. Es kann ein bestehendes QMS (ISO 9001) ergänzen oder eigenständig sein.

Schritt 2: Dokumentation der Datenbasis nach Art. 10. Trainings-, Validierungs- und Testdaten müssen dokumentiert sein: Quelle, Auswahlkriterien, Vorverarbeitung, Bias-Prüfungen, Qualitätssicherung.

Schritt 3: Risikomanagementsystem nach Art. 9. Ein strukturierter Prozess zur Identifikation, Bewertung, Mitigation und laufenden Überwachung von Risiken über den gesamten Lebenszyklus.

Schritt 4: Technische Dokumentation nach Anhang IV. Das umfangreichste Dokument: Systembeschreibung, Entwicklungsprozess, Leistungsmetriken, Grenzen, Cybersicherheit, menschliche Aufsicht. Typischerweise 50–150 Seiten.

Schritt 5: Konformitätserklärung nach Art. 47. Formale Erklärung des Anbieters, dass das System alle Anforderungen erfüllt. Wird bei Behördenanfragen vorgelegt.

Schritt 6: CE-Kennzeichnung nach Art. 48. Physische oder digitale Kennzeichnung des Systems mit dem CE-Zeichen und einer ID der durchführenden notifizierten Stelle (wenn einbezogen).

Schritt 7: Registrierung in der EU-Datenbank nach Art. 49. Vor Inbetriebnahme muss das System in die zentrale EU-Datenbank für Hochrisiko-KI eingetragen werden (öffentlich einsehbar).

Häufige Fallstricke in der Praxis

Aus der Arbeit mit Anbieter-Mandanten sehen wir folgende Fallstricke:

Fallstrick 1: Bewertung einmal, nie wieder. Die Konformitätsbewertung ist kein Einmalereignis. Bei jeder wesentlichen Änderung (neues Modell, neue Datenbasis, neue Zweckbestimmung) ist eine Neubewertung erforderlich. Gerade bei Machine-Learning-Systemen mit kontinuierlichem Retraining wird das schnell zum Dauerthema.

Fallstrick 2: Dokumentation „aus der Hüfte”. Manche Anbieter versuchen, die Anhang-IV-Dokumentation kurzfristig zusammenzustellen, wenn eine Prüfung naht. Das wird fast immer durchschaut — die Dokumentation muss mit dem Systemlebenszyklus mitlaufen, nicht nachträglich entstehen.

Fallstrick 3: Vernachlässigung der Datenlage. Art. 10 (Daten-Governance) wird oft als Nebensache behandelt. Dabei ist die Datenbasis das häufigste Prüfungsthema: Wo stammen die Trainingsdaten her? Wie wurden sie ausgewählt? Welche Bias-Risiken wurden untersucht?

Fallstrick 4: Menschliche Aufsicht nur auf dem Papier. Art. 14 verlangt echte Eingriffsmöglichkeiten und qualifizierte Aufsichtspersonen. Ein generischer Satz „Mitarbeiter überwachen das System” reicht nicht. Die konkreten Aufsichtsrollen, ihre Befugnisse und die Kompetenzanforderungen müssen dokumentiert sein.

Fallstrick 5: Unklare Rollenteilung bei Auftrags-KI. Wer das System für einen Kunden anpasst und betreibt, muss klären: Wer ist Anbieter, wer ist Betreiber? Vertragliche Regelungen (AI Act Compliance Clauses) werden zunehmend Standard.

Die Rolle des externen KI-Beauftragten

Der externe KI-Beauftragte ist nicht die Konformitätsbewertung — das ist die Aufgabe des Anbieters selbst oder einer notifizierten Stelle. Aber er bereitet die Bewertung vor und begleitet sie operativ:

• Aufbau des QMS — oder Integration in bestehende QM-Strukturen (ISO 9001, ISO 27001, TISAX)
• Erstellung der technischen Dokumentation nach Anhang IV — inhaltliche Struktur, Formulierungen, Vollständigkeitsprüfung
• Risikomanagement-Prozess — strukturierte Bewertung, Mitigationsmaßnahmen, Monitoring-Kennzahlen
• Schnittstelle zur notifizierten Stelle — Abstimmung mit TÜV oder Dekra, Vorbereitung auf Audit-Fragen
• Koordination mit DSB — bei personenbezogenen Daten DSGVO-Aspekte einbeziehen

Diese Rolle wird von uns als „Prüfungsvorbereiter, nicht als Prüfer” verstanden. Wir arbeiten auf Ihrer Seite, die Prüfung selbst übernimmt der Anbieter oder eine akkreditierte Stelle. Siehe dazu auch unsere Abgrenzung: Was DATUREX bewusst nicht tut.

Spezialfall: Betreiber von KI — was ist zu tun?

Wer nur Hochrisiko-KI einsetzt, aber nicht selbst anbietet, hat leichtere Pflichten — aber keine leeren:

• Prüfung der Anbieter-Dokumentation — hat der Anbieter eine Konformitätserklärung vorgelegt? Ist das System CE-gekennzeichnet? In der EU-Datenbank registriert?
• Einsatz nach Gebrauchsanleitung — Art. 26 Abs. 1 verpflichtet zur Nutzung gemäß der vom Anbieter gelieferten Anweisungen.
• Menschliche Aufsicht nach Art. 26 Abs. 2 — Aufsichtsrolle benennen, ausbilden, mit Zeit und Befugnissen ausstatten.
• Monitoring nach Art. 26 Abs. 5 — Vorfälle dokumentieren und an Anbieter sowie Behörden melden.
• Aufbewahrung der Logs nach Art. 26 Abs. 6 — mindestens 6 Monate, für bestimmte Hochrisiko-Systeme länger.

Die Grundrechts-Folgenabschätzung nach Art. 27 trifft Betreiber nur bei bestimmten Konstellationen (öffentliche Stellen und private Akteure, die öffentliche Dienste erbringen — etwa in Kreditwürdigkeitsprüfung). Details im Ratgeber KI-Folgenabschätzung.

Wann kommt die erste Marktüberprüfung?

Der EU AI Act sieht Marktüberwachungsbehörden vor (Art. 70). In Deutschland wird voraussichtlich die BNetzA federführend, mit sektoralen Ergänzungen durch BaFin, BfArM, BSI. Die ersten systematischen Prüfungen werden nicht vor Ende 2026 erwartet — aber reaktive Prüfungen (nach Beschwerden, Medienberichten, Vorfällen) sind bereits heute möglich.

Wer sicherheitshalber davon ausgeht, dass ab Januar 2027 eine strukturierte Prüflandschaft besteht, plant realistisch. Bis dahin sollte das QMS eingerichtet, die Anhang-IV-Dokumentation in erster Fassung vorliegen und das Risikomanagement gelebt werden.

Wie DATUREX unterstützt

Für Anbieter von Hochrisiko-KI begleiten wir den gesamten Konformitätsbewertungs-Prozess als Projekt — typischerweise 8–16 Wochen je System, abhängig von Komplexität. Für Betreiber übernehmen wir die laufende Betreiberpflichten-Erfüllung als Teil der externen KI-Beauftragten-Funktion.

Bei Bedarf stellen wir die Verbindung zu akkreditierten Prüfstellen (TÜV SÜD, Dekra, TÜV Nord) her — als Vermittler, nicht als Prüfer. So bleibt die Rollentrennung sauber: wir sind auf Ihrer Seite, die Prüfer sind unabhängig.

Fazit

Art. 43 Konformitätsbewertung ist für Anbieter von Hochrisiko-KI der zentrale formale Prozess. Er ist mit Aufwand verbunden (typisch 8–16 Wochen plus 30.000–150.000 € bei notifizierter Stelle), aber strukturiert und beherrschbar. Betreiber haben leichtere Pflichten, aber auch hier gilt: sauber dokumentierte Lieferantenkontrolle und menschliche Aufsicht sind die Basis jeder belastbaren Compliance. Mit professioneller Vorbereitung durch einen externen KI-Beauftragten verkürzt sich der Zeitaufwand erfahrungsgemäß um 30–50 Prozent.