Die meisten Unternehmen nutzen KI längst, nur weiß niemand genau, wo. Der Vertrieb schreibt Angebote mit ChatGPT, die Buchhaltung lässt Belege von einer Software mit KI-Funktion auslesen, im Personalwesen sortiert ein Bewerbertool vor. Ein KI-Audit bringt Ordnung in dieses Bild: Es stellt fest, was im Einsatz ist, welche Pflichten daraus folgen und wo das Unternehmen nachbessern muss.
Was ist ein KI-Audit?
Ein KI-Audit ist eine strukturierte Prüfung aller KI-Systeme, die ein Unternehmen entwickelt, einkauft oder nutzt. Maßstab sind der EU AI Act, die DSGVO und die internen Regeln des Unternehmens. Das Ergebnis ist ein Bericht mit Bestandsliste, Einstufung und einem Maßnahmenplan.
Der Begriff ist nicht gesetzlich definiert. Anbieter verkaufen unter dem Namen sehr unterschiedliche Leistungen, vom Fragebogen bis zur technischen Modellprüfung. Für die meisten Mittelständler geht es um die organisatorische Seite: Wer nutzt was, wofür, mit welchen Daten, und ist das zulässig?
Brauchen Sie ein KI-Audit?
Eine Pflicht zum KI-Audit gibt es nicht. Pflichten gibt es trotzdem, und sie gelten zum Teil schon:
- Seit dem 2. Februar 2025 sind die verbotenen Praktiken nach Art. 5 untersagt, etwa Emotionserkennung am Arbeitsplatz. Verstöße kosten bis zu 35 Millionen Euro oder 7 % des weltweiten Jahresumsatzes.
- Ebenfalls seit Februar 2025 gilt Art. 4 zur KI-Kompetenz. Nach dem KI-Omnibus müssen Unternehmen Maßnahmen ergreifen, um die KI-Kompetenz ihrer Beschäftigten zu unterstützen. Ein eigenes Bußgeld dafür gibt es nicht.
- Die Transparenzpflichten nach Art. 50 gelten seit dem 2. August 2026 und betreffen Chatbots und KI-generierte Inhalte.
- Die Pflichten für Hochrisiko-KI nach Anhang III, etwa im Recruiting oder bei der Kreditwürdigkeitsprüfung, gelten ab dem 2. Dezember 2027. Für Hochrisiko-KI in Produkten nach Anhang I folgt der 2. August 2028.
Wer nicht weiß, welche KI-Systeme im Haus laufen, kann keine dieser Fragen beantworten. Genau dafür ist das Audit da. Spätestens wenn ein Kunde im Lieferantenfragebogen nach Ihrem Umgang mit KI fragt oder der Betriebsrat eine Übersicht verlangt, brauchen Sie die Antworten ohnehin.
Was ein KI-Audit prüft
1. KI-Inventar
Am Anfang steht die Bestandsliste: alle Werkzeuge mit KI-Funktion, auch die, die niemand offiziell eingeführt hat. Neben ChatGPT und Copilot gehören dazu KI-Funktionen in CRM, ERP, Ticketsystem oder Bewerbermanagement. Erfahrungsgemäß ist der Anteil der Schatten-KI groß, weil Mitarbeitende Werkzeuge mit privaten Konten nutzen. Für die Erfassung eignet sich ein KI-Register.
2. Rolle und Risikoklasse
Für jedes System klären wir, ob das Unternehmen Anbieter oder Betreiber ist. Wer ein Modell nur nutzt, ist Betreiber. Wer ein KI-System unter eigenem Namen anbietet oder ein bestehendes wesentlich verändert, kann zum Anbieter werden und hat dann deutlich mehr Pflichten. Danach folgt die Einstufung: verboten, hohes Risiko, Transparenzpflicht oder geringes Risiko.
3. Verbotene Praktiken
Ein kurzer, aber wichtiger Prüfpunkt. Selten setzt ein Unternehmen bewusst verbotene KI ein. Es kommt aber vor, dass ein eingekauftes Tool eine Funktion mitbringt, die unter Art. 5 fällt, zum Beispiel die Stimmungsanalyse von Mitarbeitenden in Videocalls.
4. KI-Kompetenz
Wer wurde wann zu welchen Inhalten geschult, und passen die Inhalte zu den Werkzeugen, die tatsächlich genutzt werden? Ein Zertifikat allein sagt wenig. Entscheidend ist die Dokumentation, dass sich das Unternehmen um einen sachkundigen Umgang gekümmert hat.
5. Transparenz und Kennzeichnung
Chatbots auf der Website, KI-generierte Texte und Bilder im Marketing, automatisierte Antworten im Kundenservice: Hier prüfen wir, ob Nutzer erkennen können, dass sie mit einer KI sprechen oder KI-Inhalte sehen.
6. Datenschutz und Verträge
Welche personenbezogenen Daten fließen in welche KI? Gibt es einen Auftragsverarbeitungsvertrag, wo liegen die Daten, wird mit den Eingaben trainiert? Für Systeme mit hohem Risiko für Betroffene ist oft eine Datenschutz-Folgenabschätzung nötig. Hier arbeiten wir eng mit dem Datenschutz zusammen, bei Bedarf mit unserem Team für die Datenschutz-Folgenabschätzung.
7. Governance
Gibt es eine KI-Richtlinie, eine Freigabe für neue Werkzeuge und eine verantwortliche Person? Ohne klare Zuständigkeit veraltet jedes Audit-Ergebnis innerhalb weniger Monate.
Ablauf in fünf Schritten
- Vorgespräch: Wir klären Umfang, Ansprechpartner und vorhandene Unterlagen, etwa Softwarelisten, Datenschutzdokumentation oder eine bestehende KI-Richtlinie.
- Erhebung: Interviews mit Fachbereichen und IT, ergänzt um einen kurzen Fragebogen an alle Beschäftigten. So kommt auch die Schatten-KI auf die Liste.
- Bewertung: Einstufung jedes Systems nach Rolle und Risikoklasse, Abgleich mit den Pflichten aus AI Act und DSGVO.
- Bericht: Bestandsliste, Einstufung, Befunde nach Dringlichkeit und ein Maßnahmenplan mit Zuständigkeiten.
- Abschlussgespräch: Wir gehen die Ergebnisse mit Geschäftsführung und Verantwortlichen durch und legen fest, was zuerst erledigt wird.
Typische Befunde
Die Befunde ähneln sich über Branchen hinweg:
- KI-Werkzeuge laufen über private Konten, ohne Vertrag und ohne Kontrolle, welche Daten eingegeben werden.
- Es gibt keine Übersicht, welche Software KI-Funktionen enthält, weil Hersteller sie per Update nachgerüstet haben.
- Schulungen fanden einmal statt, sind aber nicht dokumentiert oder passen nicht zu den genutzten Werkzeugen.
- Der Website-Chatbot gibt sich nicht als KI zu erkennen.
- Ein Bewerbertool sortiert Kandidaten vor, und niemand hat geprüft, ob das ab Dezember 2027 unter die Hochrisiko-Pflichten fällt.
Keiner dieser Punkte ist schwer zu beheben. Schwer wird es nur, wenn ihn niemand kennt.
KI-Audit, Konformitätsbewertung und Zertifizierung
Drei Begriffe werden oft vermischt:
- Die Konformitätsbewertung nach Art. 43 ist ein förmliches Verfahren für Anbieter von Hochrisiko-KI, bevor sie das System in Verkehr bringen.
- Eine Zertifizierung nach ISO/IEC 42001 bestätigt ein KI-Managementsystem. Sie ist freiwillig und lohnt sich vor allem für Unternehmen, die KI-Produkte anbieten oder große Kunden mit entsprechenden Anforderungen haben.
- Das KI-Audit ist die Bestandsaufnahme davor. Es zeigt, ob und welches der beiden anderen Verfahren für Sie überhaupt in Frage kommt.
Für technische Prüfungen einzelner Modelle bietet der BSI-Prüfkatalog für vertrauenswürdige KI einen Rahmen. Für die meisten Betreiber ist er zu tief, für Anbieter eigener KI-Lösungen eine gute Orientierung.
Selbst prüfen oder prüfen lassen?
Mit unserer EU-AI-Act-Checkliste können Sie einen ersten Eindruck selbst gewinnen. Für ein belastbares Ergebnis spricht eine externe Prüfung: Fachbereiche geben gegenüber Dritten offener Auskunft, die Einstufung nach Risikoklassen erfordert Erfahrung mit den Auslegungsfragen, und der Bericht hat gegenüber Kunden und Betriebsrat mehr Gewicht.
Wir führen KI-Audits als Projekt im Rahmen unserer EU-AI-Act-Beratung durch, abgerechnet nach Aufwand mit 150 € pro Stunde. Wer die Ergebnisse dauerhaft aktuell halten will, beauftragt uns als externen KI-Beauftragten ab 250 € im Monat. Dann gehören Bestandsaufnahme, Freigabe neuer Werkzeuge und die jährliche Wiederholung zum Mandat.
Primärquellen: Verordnung (EU) 2024/1689, Art. 4, 5, 43, 50 und 99 (EUR-Lex)
Häufige Fragen
Ist ein KI-Audit gesetzlich vorgeschrieben?
Nein, jedenfalls nicht unter diesem Namen. Der EU AI Act verlangt eine förmliche Konformitätsbewertung nur von Anbietern von Hochrisiko-KI-Systemen. Für alle anderen Unternehmen ist das Audit ein Werkzeug, um die geltenden Pflichten zu kennen und zu belegen, etwa zur KI-Kompetenz nach Art. 4 oder zur Transparenz nach Art. 50.
Was wird bei einem KI-Audit geprüft?
Welche KI-Systeme im Einsatz sind, welche Rolle das Unternehmen dabei hat (Anbieter oder Betreiber), in welche Risikoklasse die Systeme fallen, ob verbotene Praktiken ausgeschlossen sind, wie Schulung, Kennzeichnung, Datenschutz und Verträge geregelt sind und wer intern verantwortlich ist.
Wie unterscheidet sich ein KI-Audit von einer Konformitätsbewertung nach Art. 43?
Die Konformitätsbewertung ist ein förmliches Verfahren für Anbieter von Hochrisiko-KI vor dem Inverkehrbringen, teils mit einer notifizierten Stelle. Ein KI-Audit ist eine freiwillige Bestandsaufnahme für das ganze Unternehmen. Es kann ergeben, dass eine Konformitätsbewertung nötig ist, ersetzt sie aber nicht.
Wie oft sollte ein KI-Audit stattfinden?
Eine feste Frist gibt es nicht. Sinnvoll ist eine Wiederholung, wenn neue KI-Werkzeuge eingeführt werden, sich der Einsatzzweck eines Systems ändert oder neue Pflichten gelten, etwa die Hochrisiko-Pflichten ab Dezember 2027. Viele Unternehmen koppeln die Prüfung an ihre jährliche Datenschutz- oder ISMS-Prüfung.
Was kostet ein KI-Audit bei DATUREX?
Als Einzelprojekt rechnen wir nach Aufwand mit 150 € pro Stunde ab. Wie viele Stunden es werden, hängt vor allem von der Zahl der KI-Systeme und davon ab, ob schon ein KI-Inventar existiert. Wer uns als externen KI-Beauftragten beauftragt (ab 250 € im Monat), bekommt die Bestandsaufnahme als Teil des Mandats.
Primärquelle: Verordnung (EU) 2024/1689 (KI-Verordnung) im Amtsblatt der EU (EUR-Lex), geändert durch die Verordnung (EU) 2026/1744 (KI-Omnibus).
- KI-Audit
- EU AI Act
- KI-Compliance
- KI-Inventar
- Risikoklassen