Betreiber nach dem EU AI Act: Warum Sie es vermutlich sind — und welche Pflichten jetzt gelten

„Wir betreiben doch gar keine KI — wir nutzen nur ChatGPT.” Dieser Satz fällt in fast jedem Erstgespräch, und er beruht auf einem folgenreichen Missverständnis: Die KI-Verordnung kennt keine Rolle „nur Nutzer”. Wer ein KI-System im beruflichen Kontext in eigener Verantwortung verwendet, ist Betreiber im Sinne des EU AI Act — mit eigenen, seit dem 2. August 2026 voll bußgeldbewehrten Pflichten. Dieser Ratgeber erklärt, wann Sie Betreiber sind, welche Pflichten für jedes Risikolevel gelten, was bei Hochrisiko-Systemen hinzukommt und wann Sie ungewollt sogar in die Anbieterrolle rutschen.

Was „Betreiber” nach Art. 3 Nr. 4 bedeutet

Die Definition ist bewusst weit gefasst: Betreiber ist jede natürliche oder juristische Person, Behörde, Einrichtung oder sonstige Stelle, die ein KI-System in eigener Verantwortung verwendet. Die einzige Ausnahme ist die persönliche, nicht berufliche Nutzung — der private ChatGPT-Account für den Urlaubsplan fällt also nicht darunter, derselbe Account für den Kundennewsletter sehr wohl.

Drei Dinge sind dabei unerheblich:

• Ob Sie das System besitzen. Auch die Nutzung einer SaaS-Lösung, eines kostenlosen Tools oder einer KI-Funktion in gemieteter Software macht Sie zum Betreiber.
• Wie groß Ihr Unternehmen ist. Die Definition kennt keine Schwellenwerte — der Drei-Personen-Betrieb ist genauso Betreiber wie der Konzern.
• Ob Sie die KI bewusst eingeführt haben. Auch die KI-Funktion, die Ihr CRM-Anbieter per Update aktiviert hat, betreiben rechtlich Sie.

Die Gegenrolle ist der Anbieter (Art. 3 Nr. 3): Er entwickelt ein KI-System oder lässt es entwickeln und bringt es unter eigenem Namen in Verkehr. OpenAI ist Anbieter von ChatGPT — das Unternehmen, das ChatGPT im Vertrieb einsetzt, ist Betreiber. Beide Rollen haben eigene Pflichtenkataloge, und in der Praxis sind fast alle deutschen Unternehmen in der Betreiberrolle.

Betreiber ohne es zu wissen: die vier Klassiker

Der Assistent im Büroalltag. Microsoft 365 Copilot, ChatGPT, Gemini oder Claude im Team-Einsatz — der häufigste Fall. Jede berufliche Nutzung macht das Unternehmen zum Betreiber, auch wenn nur einzelne Mitarbeiter die Tools verwenden.

Die KI-Funktion in der Standardsoftware. Das Scoring im CRM, die automatische Priorisierung im Ticketsystem, der Übersetzer im Intranet, die smarte Fotosortierung in der zentralen Mediendatenbank (Digital Asset Management): KI steckt längst in Werkzeugen, die nie als „KI-Projekt” eingekauft wurden. Wie Sie solche versteckten Funktionen systematisch finden, zeigt der Ratgeber zu Schatten-KI im Unternehmen.

Der Chatbot auf der Website. Wer einen KI-gestützten Support-Chat einsetzt, betreibt ihn — samt der Transparenzpflichten aus Art. 50.

Das HR- oder Finanz-Tool. Hier wird es ernst: KI-gestützte Bewerbervorauswahl, Leistungsbewertung oder Kreditwürdigkeitsprüfung fallen unter Anhang III — dann sind Sie nicht nur Betreiber, sondern Betreiber eines Hochrisiko-Systems mit dem vollen Pflichtenkatalog aus Art. 26.

Diese Pflichten gelten für jeden Betreiber — unabhängig vom Risikolevel

Zwei Pflichtenblöcke treffen jedes Unternehmen, das KI beruflich einsetzt, auch wenn kein einziges Hochrisiko-System im Haus ist:

KI-Kompetenz (Art. 4, seit 2. Februar 2025). Alle Personen, die mit KI-Systemen befasst sind, müssen über ausreichende KI-Kompetenz verfügen — rollengerecht geschult und dokumentiert. Was das konkret heißt und wie Sie es nachweisen, steht im Ratgeber zur KI-Kompetenzpflicht nach Art. 4.

Transparenz (Art. 50, seit 2. August 2026). Deepfakes sind offenzulegen, wer Emotionserkennung oder biometrische Kategorisierung einsetzt, muss die Betroffenen informieren, und KI-generierte Texte, die die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse informieren, sind als solche zu kennzeichnen. Das trifft ganz alltägliche Fälle: das KI-Produktbild im Shop, das automatisch erstellte Social-Media-Video, den Chatbot im Kundenservice. Die maschinenlesbare Markierung der Inhalte selbst ist dagegen Sache der Anbieter — wie das inzwischen konkret aussieht, zeigt das unsichtbare Wasserzeichen in Claude-Texten.

Dazu kommt die Hygiene-Grundlage, ohne die keine der Pflichten erfüllbar ist: ein vollständiges KI-Inventar. Wer nicht weiß, welche Systeme im Haus laufen, kann weder schulen noch kennzeichnen noch Risiken klassifizieren. Struktur und Pflichtfelder liefert unsere KI-Register-Vorlage.

Hochrisiko-Systeme: der Pflichtenkatalog aus Art. 26

Fällt eines Ihrer Systeme in einen Anhang-III-Bereich — Personalwesen, Kreditwürdigkeit, Bildung, kritische Infrastruktur und weitere —, greift seit dem 2. August 2026 der volle Betreiberkatalog:

• Nutzung nach den Vorgaben des Anbieters. Zu jedem Hochrisiko-System liefert der Anbieter eine Betriebsanleitung: Sie legt fest, wofür das System gedacht ist, wie es korrekt bedient wird und wo seine Grenzen liegen. Ihre Pflicht als Betreiber ist, das System nur innerhalb dieses Rahmens einzusetzen. Praktisch heißt das: Anleitung beim Anbieter anfordern, lesen und in interne Arbeitsanweisungen übersetzen.
• Menschliche Aufsicht. Die Aufsicht muss Personen übertragen werden, die kompetent und geschult sind und die Befugnis haben, einzugreifen — eine nur auf dem Papier benannte Stelle, die KI-Ergebnisse ungeprüft durchwinkt, genügt nicht.
• Kontrolle der Eingabedaten. Soweit Sie die Eingabedaten beherrschen, müssen sie im Hinblick auf die Zweckbestimmung des Systems relevant und hinreichend repräsentativ sein.
• Überwachung und Meldung. Sie müssen den Betrieb laufend überwachen und bei Risiken oder schwerwiegenden Vorfällen Anbieter und Behörden informieren — bei schwerwiegenden Vorfällen nach Art. 73 im Ernstfall binnen weniger Tage. Ohne funktionierendes KI-Monitoring ist das nicht zu leisten.
• Protokoll-Aufbewahrung. Die automatisch erzeugten Logs müssen mindestens sechs Monate aufbewahrt werden, soweit sie Ihrer Kontrolle unterliegen.
• Information der Beschäftigten. Vor dem Einsatz eines Hochrisiko-Systems am Arbeitsplatz müssen Arbeitnehmervertretung und betroffene Beschäftigte informiert werden — in mitbestimmten Betrieben führt der Weg ohnehin über den Betriebsrat.
• Information Betroffener. Menschen, über die ein Hochrisiko-System Entscheidungen trifft oder vorbereitet, müssen darüber informiert werden.

Für bestimmte Betreiber kommt die Grundrechte-Folgenabschätzung nach Art. 27 hinzu: Behörden und öffentliche Stellen, private Erbringer öffentlicher Dienstleistungen sowie Betreiber von Systemen zur Kreditwürdigkeitsprüfung oder zur Risikobewertung und Preisbildung in der Lebens- und Krankenversicherung. Wie eine solche Folgenabschätzung praktisch entsteht, zeigt der Ratgeber zur KI-Folgenabschätzung.

Die Rollenwechsel-Falle: Wann ein Betreiber zum Anbieter wird

Art. 25 hält die unangenehmste Überraschung der Verordnung bereit. Ein Betreiber wird rechtlich zum Anbieter eines Hochrisiko-Systems — mit allen Anbieterpflichten von der Konformitätsbewertung bis zur CE-Kennzeichnung —, wenn er:

1. ein bereits in Verkehr gebrachtes Hochrisiko-System unter eigenem Namen oder eigener Marke anbietet (das klassische White-Labeling),
2. ein Hochrisiko-System wesentlich verändert, oder
3. die Zweckbestimmung eines KI-Systems so ändert, dass es zum Hochrisiko-System wird — etwa wenn das allgemeine Sprachmodell per interner Anweisung zur Bewerbervorauswahl umfunktioniert wird.

Gerade der dritte Fall passiert schneller, als vielen bewusst ist: Nicht das Tool entscheidet über die Risikoklasse, sondern der Einsatzzweck. Dasselbe Sprachmodell ist als Textassistent unkritisch und als Bewerberfilter ein Hochrisiko-System — mit Ihnen als Anbieter, wenn Sie diese Zweckänderung selbst vorgenommen haben. Welcher Pflichtenkatalog in diesem Fall greift und wie wir Unternehmen in der Anbieterrolle begleiten, steht auf der Leistungsseite KI-Anbieter-Compliance.

Was bei Verstößen droht

Verstöße gegen die Betreiberpflichten aus Art. 26 kosten nach Art. 99 bis zu 15 Mio. Euro oder 3 % des weltweiten Jahresumsatzes; verbotene Praktiken nach Art. 5 — etwa Emotionserkennung am Arbeitsplatz außerhalb enger Ausnahmen — bis zu 35 Mio. Euro oder 7 %. Die Details samt realistischer Einschätzung, wie Behörden das Regime durchsetzen, stehen im Ratgeber zu den Bußgeldern im EU AI Act. Mindestens ebenso relevant: zivilrechtliche Haftung, arbeitsrechtliche Konflikte und der Reputationsschaden, wenn ein KI-Vorfall öffentlich wird.

In fünf Schritten zur Betreiber-Compliance

1. Inventarisieren. Alle KI-Systeme erfassen — auch die versteckten Funktionen in Standardsoftware und die inoffiziell genutzten Tools. Unsere KI-Inventarisierung übernimmt Erhebung und Erstbewertung.
2. Klassifizieren. Jedes System gegen die verbotenen Praktiken (Art. 5) und Anhang III prüfen. Erst die Risikoklasse bestimmt den Pflichtenumfang.
3. Basispflichten umsetzen. Rollengerechte KI-Schulungen für Art. 4, Kennzeichnung und Offenlegung für Art. 50, eine schlanke KI-Richtlinie als Rahmen.
4. Hochrisiko-Systeme absichern. Betriebsanleitung einfordern, Aufsicht zuweisen, Logs sichern, Beschäftigte informieren, Monitoring aufsetzen — und wo nötig die Grundrechte-Folgenabschätzung durchführen.
5. Dokumentieren. Jeden Schritt mit Datum festhalten. Wer bei einer Prüfung nachweisbar systematisch gearbeitet hat, steht fundamental besser da als ein Unternehmen ohne jede Struktur — die Bausteine dafür liefert unsere KI-Dokumentation.

Fazit

Die Betreiberrolle ist kein Sonderfall für Tech-Konzerne, sondern der Normalfall für jedes Unternehmen, das KI beruflich nutzt — vom Copilot-Arbeitsplatz bis zum HR-Tool. Die gute Nachricht: Die Pflichten sind planbar, wenn man sie kennt und strukturiert abarbeitet. Genau dieses Paket — Inventar, Klassifizierung, Schulung, Hochrisiko-Absicherung, Dokumentation — bauen wir als externer KI-Beauftragter in wenigen Wochen auf. Was das kostet, zeigt transparent die Kosten-Übersicht; der schnellste Einstieg ist die kostenlose Erstberatung.