KI-Risikomanagement im Unternehmen: Systematisch statt Bauchgefühl

„Welches Risiko hat unser Chatbot?” — auf diese Frage antworten die meisten Unternehmen mit einem Achselzucken oder einem Bauchgefühl. Beides reicht nicht mehr: Die KI-Verordnung gilt schrittweise — Transparenzpflichten seit August 2026, Hochrisiko-Pflichten nach dem KI-Omnibus ab Dezember 2027 —, und ob als expliziter Prüfpunkt der Anbieterpflichten oder als praktische Voraussetzung der Betreiberpflichten — ohne systematisches KI-Risikomanagement lässt sich keine der Compliance-Anforderungen belastbar erfüllen. Dieser Ratgeber zeigt, wie ein Risikomanagement aussieht, das beides schafft: die Verordnung erfüllen und im Alltag funktionieren.

Wer muss was? Art. 9 ist Anbieterpflicht — aber Betreiber kommen nicht davon

Zuerst die wichtigste Abgrenzung, weil sie in der Praxis ständig verwechselt wird. Das Risikomanagementsystem nach Art. 9 der KI-Verordnung — kontinuierlich, iterativ, über den gesamten Lebenszyklus — ist eine Pflicht für Anbieter von Hochrisiko-KI. Wer nur fremde KI-Systeme einsetzt, muss dieses formale System nicht selbst betreiben.

Trotzdem führt für Betreiber kein Weg an einer eigenen Risikobetrachtung vorbei, aus drei Gründen:

1. Die Betreiberpflichten aus Art. 26 setzen sie voraus. Verwendung nach Betriebsanleitung, kompetente menschliche Aufsicht, Überwachung des Betriebs — all das lässt sich nur zuweisen und dimensionieren, wenn klar ist, welches System welches Schadenspotenzial hat. Die Details stehen im Ratgeber zu den Betreiberpflichten nach dem EU AI Act.
2. Der Rollenwechsel lauert. Wer ein KI-System wesentlich verändert, unter eigenem Namen anbietet oder zweckentfremdet, wird rechtlich zum Anbieter — und dann gilt Art. 9 in voller Länge. Ohne Risikoprozess merkt man diesen Übergang erst, wenn es zu spät ist.
3. Haftung und Nachweis. Bei Verstößen gegen Betreiberpflichten drohen Bußgelder bis 15 Mio. € oder 3 % des Weltjahresumsatzes. Wer eine dokumentierte Risikobewertung vorlegen kann, steht in jeder Prüfung und jedem Schadensfall fundamental besser da.

Die vier Schritte: identifizieren, bewerten, behandeln, überwachen

KI-Risikomanagement ist kein neues Fach — es ist klassisches Risikomanagement, angewendet auf eine Technologie mit eigenen Fehlermodi. Der Prozess bleibt derselbe Vierschritt.

Schritt 1: Risiken identifizieren — pro System, nicht pauschal

Grundlage ist das KI-Inventar: Ohne vollständige Liste aller eingesetzten Systeme bewertet man nur die Risiken, die man zufällig kennt. Wie das Inventar aufgebaut wird, beschreibt die KI-Register-Vorlage. Je System werden dann die typischen KI-Risikoklassen durchgeprüft:

• Fehlerhafte Ausgaben: Halluzinationen, veraltete Trainingsdaten, systematische Verzerrungen (Bias) — kritisch überall dort, wo Ausgaben ungeprüft in Entscheidungen fließen.
• Datenrisiken: Vertrauliche Daten in Prompts, Trainingsnutzung durch den Anbieter, Drittlandtransfers.
• Rechtsrisiken: Kennzeichnungspflichten, Urheberrecht an generierten Inhalten, Diskriminierungsverbote im HR-Einsatz.
• Abhängigkeitsrisiken: Modell-Updates, die das Verhalten ändern; Anbieterausfall; Preisänderungen bei kritischen Prozessen.
• Missbrauchsrisiken: Schatten-Nutzung außerhalb der Richtlinie, Social Engineering mit KI-Unterstützung.

Schritt 2: Bewerten — eine Matrix reicht

Für den Mittelstand braucht es keine Monte-Carlo-Simulation. Eine 3×3- oder 5×5-Matrix aus Eintrittswahrscheinlichkeit × Schadenshöhe je identifiziertem Risiko genügt — solange die Schadensdimensionen KI-gerecht gewählt sind: finanzieller Schaden, Grundrechtseingriff für Betroffene, Reputationsschaden und Compliance-Verstoß getrennt betrachten, nicht in eine Zahl mischen. Das Ergebnis ist eine priorisierte Risikoliste: Welche fünf Risiken behandeln wir zuerst? Die methodische Vertiefung mit Bewertungsbögen liefert unsere Leistungsseite zur KI-Risikobewertung.

Wichtig für die Einstufung: Ob ein System in den Hochrisiko-Bereich der Verordnung fällt, entscheidet nicht die Matrix, sondern Anhang III der KI-Verordnung — HR-Auswahl, Kreditwürdigkeit, kritische Infrastruktur und weitere Bereiche. Die interne Matrix und die regulatorische Klassifizierung sind zwei getrennte Prüfungen, die sich ergänzen.

Schritt 3: Behandeln — vier Optionen, dokumentiert

Je priorisiertem Risiko gibt es die klassischen vier Wege: vermeiden (System oder Anwendungsfall abschalten), reduzieren (technische und organisatorische Maßnahmen: Freigabeprozesse, Vier-Augen-Prinzip vor kritischen Ausgaben, Prompt-Vorgaben, Rechte-Beschränkung), übertragen (vertragliche Zusicherungen des Anbieters, Versicherung) oder akzeptieren — bewusst, schriftlich, mit Unterschrift der Verantwortlichen. Der häufigste Fehler in der Praxis ist stilles Akzeptieren: Ein bekanntes Risiko bleibt unbehandelt, ohne dass es je eine dokumentierte Entscheidung gab.

Schritt 4: Überwachen — der Schritt, den alle auslassen

KI-Systeme sind beweglicher als klassische Software: Ein Modell-Update des Anbieters kann Antwortqualität und Fehlerprofil über Nacht verändern, ohne dass sich an der Oberfläche etwas ankündigt. Deshalb gehört zu jedem behandelten Risiko ein Überwachungsmechanismus — Stichprobenprüfung der Ausgaben, Vorfallsmeldeweg für Beschäftigte, Quartals-Kurzcheck des Registers und eine ausführliche Jahresbewertung. Bei ernsten Vorfällen mit Hochrisiko-Systemen bestehen zudem Melde- und Informationspflichten gegenüber Anbieter und Behörden.

ISO/IEC 42001 und ISO/IEC 23894: Struktur, die sich auszahlt

Zwei Normen geben dem Ganzen einen anerkannten Rahmen. ISO/IEC 42001 beschreibt ein KI-Managementsystem (AIMS) — analog zur ISO 27001 für Informationssicherheit — und eignet sich besonders für Unternehmen, die bereits ein ISMS betreiben: Rollen, Dokumentenlenkung und Auditzyklen lassen sich weiternutzen, statt parallele Strukturen aufzubauen. Wie ein ISMS als Andockpunkt aussieht, zeigt die ISMS-Beratung unseres Schwesterportals für Informationssicherheit in Dresden. ISO/IEC 23894 ergänzt die konkrete Risikomanagement-Methodik für KI auf Basis der ISO 31000.

Eine Zertifizierung ist für die KI-Verordnung nicht vorgeschrieben. Aber wer sich an der Struktur orientiert, erfüllt die Dokumentations- und Nachweisanforderungen fast nebenbei — und signalisiert Kunden und Prüfern Systematik statt Improvisation. Welche Kriterien Prüfer künftig an KI-Systeme anlegen könnten, zeigt der Entwurf des BSI-Prüfkatalogs A5.

Abgrenzung: Risikomanagement ist nicht die Folgenabschätzung

Häufige Verwechslung: Die Grundrechte-Folgenabschätzung nach Art. 27 ist eine punktuelle Prüfung vor der ersten Verwendung bestimmter Hochrisiko-Systeme, vor allem für öffentliche Stellen und einzelne private Anwendungsfälle. Das Risikomanagement ist der kontinuierliche Gesamtprozess, in den diese Prüfung eingebettet ist. Wer beides gleichsetzt, prüft einmal und überwacht nie. Wie die Folgenabschätzung konkret erstellt wird, steht im Ratgeber KI-Folgenabschätzung erstellen.

In 30 Tagen zum funktionierenden Risikoprozess

Realistischer Fahrplan für ein mittelständisches Unternehmen mit üblicher KI-Nutzung:

• Woche 1: KI-Inventar vervollständigen, je System Zweck und Datenarten fixieren.
• Woche 2: Risikoidentifikation entlang der fünf Risikoklassen, Bewertungsmatrix ausfüllen, Top-5-Risiken priorisieren.
• Woche 3: Behandlungsentscheidungen treffen und dokumentieren, Maßnahmen mit Verantwortlichen und Fristen versehen.
• Woche 4: Überwachung aufsetzen — Meldeweg, Stichprobenplan, Review-Termine im Kalender. Ergebnis zur Geschäftsführung berichten.

Danach läuft der Zyklus: Quartals-Kurzcheck, Jahresreview, anlassbezogene Neubewertung bei neuen Systemen und Updates.

Fazit: Der Prozess schlägt das Dokument

Ein KI-Risikomanagement, das nur als einmalige Excel-Bewertung existiert, ist im Prüfungsfall wenig wert und im Schadensfall gar nichts. Was zählt, ist der laufende Prozess — und der braucht einen Verantwortlichen, der ihn treibt. Genau das ist das Mandat des externen KI-Beauftragten: Register, Bewertung, Maßnahmenverfolgung und Dokumentation aus einer Hand, ab 250 € pro Monat — die Details stehen auf der Kosten-Seite. Der Einstieg ist eine kostenlose Erstanalyse, die den aktuellen Stand Ihres Risikomanagements gleich mit erfasst.

Häufige Fragen

Ist ein KI-Risikomanagementsystem für jedes Unternehmen Pflicht? +

Das formale Risikomanagementsystem nach Art. 9 der KI-Verordnung ist eine Anbieterpflicht für Hochrisiko-KI. Als reiner Betreiber trifft Sie diese Norm nicht direkt — aber die Betreiberpflichten aus Art. 26 (Verwendung nach Betriebsanleitung, Aufsicht, Monitoring) lassen sich ohne eigene Risikobetrachtung praktisch nicht sauber erfüllen. Und wer KI-Systeme wesentlich verändert oder unter eigenem Namen anbietet, rutscht in die Anbieterrolle samt Art.-9-Pflicht hinein.

Was ist der Unterschied zwischen KI-Risikomanagement und der Folgenabschätzung? +

Die Grundrechte-Folgenabschätzung nach Art. 27 ist eine punktuelle Prüfung vor der ersten Verwendung bestimmter Hochrisiko-Systeme — vor allem für öffentliche Stellen und einzelne private Bereiche wie Kreditwürdigkeitsprüfung. Das Risikomanagement ist dagegen ein kontinuierlicher Prozess über den gesamten Lebenszyklus: identifizieren, bewerten, behandeln, überwachen, wiederholen. Die Folgenabschätzung ist ein Baustein darin, kein Ersatz dafür.

Brauchen wir für KI-Risikomanagement eine ISO-42001-Zertifizierung? +

Nein, eine Zertifizierung ist freiwillig. ISO/IEC 42001 beschreibt ein Managementsystem für KI und ist als Struktur auch ohne Audit wertvoll — vor allem, wenn bereits ein ISMS nach ISO 27001 existiert, an das sich die KI-Prozesse andocken lassen. Für die meisten Mittelständler reicht ein schlankes, dokumentiertes Verfahren: Register, Bewertungsmatrix, Maßnahmenliste, jährlicher Review.

Wie oft müssen KI-Risiken neu bewertet werden? +

Mindestens jährlich sowie anlassbezogen: bei neuen KI-Systemen, bei wesentlichen Updates des Anbieters, bei geändertem Einsatzzweck und nach Vorfällen. KI-Modelle ändern ihr Verhalten mit Updates schneller als klassische Software — ein Bewertungsstand von vor 18 Monaten ist im Zweifel wertlos. Praktikabel ist ein Quartals-Kurzcheck des Registers plus eine ausführliche Jahresbewertung.

Was kostet ein extern betreutes KI-Risikomanagement? +

Im Mandat des externen KI-Beauftragten ist das Risikomanagement enthalten: Aufbau von Register und Bewertungsmatrix, laufende Neubewertung und die Dokumentation für Nachweispflichten. Die Pakete starten bei 250 € pro Monat (Fair-Use), projektweise Unterstützung gibt es für 150 € pro Stunde. Der Einstieg ist eine kostenlose Erstanalyse, die auch den aktuellen Stand Ihrer Risikobewertung mit erfasst.