DSGVO-konforme KI: KI-Tools in 8 Prüfpunkten bewerten

„Ist das Tool DSGVO-konform?” ist die häufigste Frage, die uns vor einer KI-Freigabe gestellt wird — und die Antwort ist fast immer: Das kommt darauf an, was Sie damit machen. Die DSGVO regelt nicht Software, sondern Verarbeitungen. Ein Chat-Assistent, der Marketingtexte ohne Personenbezug entwirft, ist datenschutzrechtlich etwas völlig anderes als derselbe Assistent, der Bewerbungsunterlagen zusammenfasst.

Ein Prüfsiegel auf der Anbieter-Website ersetzt diese Bewertung nicht. Zertifizierungen nach Art. 42 DSGVO sind bisher selten, und Werbeaussagen wie „DSGVO-ready” beziehen sich meist nur auf den Vertrag des Anbieters, nicht auf Ihren Einsatzzweck. Die folgenden acht Prüfpunkte nutzen wir, um KI-Tools vor der Freigabe zu bewerten. Sie lassen sich in ein bis zwei Stunden pro Tool abarbeiten, wenn die Vertragsunterlagen vorliegen.

1. Gibt es einen Auftragsverarbeitungsvertrag?

Sobald Beschäftigte Namen, E-Mails, Kundendaten oder Gesprächsnotizen in ein KI-Tool eingeben, verarbeitet der Anbieter personenbezogene Daten in Ihrem Auftrag. Dafür brauchen Sie einen Vertrag nach Art. 28 DSGVO — und zwar vor dem ersten Prompt.

Bei den großen Anbietern ist der Auftragsverarbeitungsvertrag (AVV, oft „Data Processing Addendum”) in der Regel nur in den Business- und Enterprise-Tarifen enthalten. Private oder kostenlose Accounts laufen unter Verbraucherbedingungen, bei denen der Anbieter selbst Verantwortlicher ist. Diese Accounts eignen sich nicht für Unternehmensdaten — unabhängig davon, wie gut das Tool technisch ist.

2. Werden Ihre Eingaben zum Training genutzt?

Der zweite Blick gilt der Frage, ob Prompts und hochgeladene Dateien zur Verbesserung der Modelle verwendet werden. Für den Unternehmenseinsatz sollte das vertraglich ausgeschlossen sein, nicht nur über einen Schalter in den Einstellungen, den jeder Nutzer wieder umlegen kann.

Prüfen Sie außerdem, wie lange Eingaben gespeichert bleiben und wofür: Viele Anbieter speichern Inhalte für einen begrenzten Zeitraum zur Missbrauchserkennung. Das ist nicht per se unzulässig, gehört aber in Ihr Verarbeitungsverzeichnis und in die Information der Beschäftigten.

3. Wo werden die Daten verarbeitet?

Bei Anbietern mit Sitz oder Rechenzentren außerhalb der EU brauchen Sie für die Übermittlung eine Grundlage nach Art. 44 ff. DSGVO. Für US-Anbieter ist das meist das EU-U.S. Data Privacy Framework — vorausgesetzt, der Anbieter ist dort tatsächlich zertifiziert. Das lässt sich auf der offiziellen Liste des US-Handelsministeriums prüfen. Alternativ kommen Standardvertragsklauseln mit Transfer-Folgenabschätzung infrage.

EU-Hosting erleichtert die Bewertung, löst aber nicht jede Frage: Auch bei Rechenzentren in Frankfurt können Support-Teams oder Konzerngesellschaften aus Drittländern Zugriff haben. Wer diese Abhängigkeit grundsätzlich vermeiden will, sollte souveräne KI-Lösungen mit Betrieb in Deutschland oder im eigenen Rechenzentrum in die Auswahl aufnehmen.

4. Welche Daten sollen hinein — und welche nicht?

Die wirksamste Datenschutzmaßnahme ist eine klare Regel, welche Daten in welches Tool dürfen. Bewährt hat sich eine einfache Ampel:

• Grün: öffentliche Informationen, eigene Texte ohne Personenbezug, anonymisierte Beispiele
• Gelb: personenbezogene Geschäftsdaten (Kundenkorrespondenz, Gesprächsnotizen) — nur in freigegebenen Tools mit AVV
• Rot: besondere Kategorien nach Art. 9 DSGVO (Gesundheit, Religion, Gewerkschaft), Personalakten, Bewerberdaten, Geschäftsgeheimnisse — nur nach gesonderter Prüfung oder gar nicht

Diese Ampel gehört in Ihre KI-Richtlinie. Ohne sie entscheidet jeder Beschäftigte selbst — und genau so entsteht Schatten-KI.

5. Braucht der Einsatz eine Datenschutz-Folgenabschätzung?

Eine Datenschutz-Folgenabschätzung nach Art. 35 DSGVO ist Pflicht, wenn die Verarbeitung voraussichtlich ein hohes Risiko für die Betroffenen mit sich bringt. Bei KI ist das typischerweise der Fall, wenn das System Personen bewertet oder einstuft, Verhalten oder Leistung von Beschäftigten auswertet oder in großem Umfang sensible Daten verarbeitet. Die deutschen Aufsichtsbehörden führen den Einsatz von KI zur Steuerung der Interaktion mit Betroffenen oder zur Bewertung persönlicher Aspekte ausdrücklich auf ihrer Liste der DSFA-pflichtigen Verarbeitungen.

Für einen Schreibassistenten, der Entwürfe ohne Personenbezug erstellt, ist eine DSFA in der Regel nicht nötig. Dokumentieren Sie trotzdem kurz, warum Sie zu diesem Ergebnis kommen. Wie eine DSFA für KI aufgebaut ist, beschreibt unser Leitfaden zur KI-Folgenabschätzung.

6. Können Sie die Rechte der Betroffenen erfüllen?

Wer KI einsetzt, muss die Betroffenen darüber informieren (Art. 13 und 14 DSGVO) und Auskunfts-, Berichtigungs- und Löschanfragen beantworten können. Prüfen Sie deshalb vor der Freigabe:

• Lassen sich Chatverläufe und hochgeladene Dateien zentral finden und löschen?
• Gibt es eine Admin-Konsole mit Nutzerverwaltung und Protokollierung?
• Trifft das System Entscheidungen mit rechtlicher Wirkung über Personen? Dann greift Art. 22 DSGVO — ein Mensch muss die Entscheidung tatsächlich treffen, nicht nur abnicken.

Die Datenschutzkonferenz hat in ihrer Orientierungshilfe „Künstliche Intelligenz und Datenschutz” (Mai 2024) genau diese Punkte als Prüfschritte für Verantwortliche zusammengefasst. Sie eignet sich gut als Gegenprobe zu dieser Liste.

7. Ist das Tool sicher konfiguriert?

Art. 32 DSGVO verlangt angemessene technische und organisatorische Maßnahmen. Bei KI-Tools heißt das konkret: Single Sign-on statt Einzelpasswörtern, Zwei-Faktor-Authentifizierung, Rollen und Berechtigungen, und ein bewusster Umgang mit Integrationen. Assistenten, die auf Postfächer, Laufwerke oder CRM zugreifen dürfen, sehen alles, was der jeweilige Nutzer sehen darf — veraltete Freigaben werden so plötzlich durchsuchbar. Räumen Sie Berechtigungen auf, bevor Sie solche Funktionen aktivieren.

8. Was verlangt der EU AI Act zusätzlich?

Die DSGVO ist nicht das einzige Regelwerk. Als Unternehmen, das KI-Tools einsetzt, sind Sie nach dem EU AI Act in der Regel Betreiber. Daraus folgen heute schon zwei Pflichten:

• KI-Kompetenz (Art. 4): Sie ergreifen Maßnahmen, damit Ihre Beschäftigten die genutzten Systeme verstehen und ihre Grenzen kennen — mehr dazu im Beitrag zur KI-Kompetenzpflicht.
• Transparenz (Art. 50): Seit dem 2. August 2026 gelten Kennzeichnungspflichten, etwa für Deepfakes und für KI-generierte Texte, die zur Information der Öffentlichkeit veröffentlicht werden.

Fällt ein Anwendungsfall unter die Hochrisiko-Bereiche des Anhangs III — zum Beispiel KI in Bewerbungsverfahren oder bei der Leistungsbewertung von Beschäftigten —, kommen ab dem 2. Dezember 2027 die Betreiberpflichten nach Art. 26 hinzu. Wer solche Fälle heute schon plant, sollte sie im KI-Register entsprechend markieren.

Die Prüfung dokumentieren

Am Ende jeder Bewertung steht eine Freigabeentscheidung mit Begründung: welches Tool, welcher Tarif, welche Anwendungsfälle, welche Datenkategorien, welche Auflagen. Diese Entscheidung gehört ins KI-Register und — wenn personenbezogene Daten verarbeitet werden — ins Verarbeitungsverzeichnis. Wird das Tool später um neue Funktionen erweitert, etwa um einen Agenten mit Zugriff auf weitere Systeme, ist das eine neue Prüfung, keine Fortschreibung.

Wo ein Betriebsrat besteht, kommt die Mitbestimmung nach § 87 Abs. 1 Nr. 6 BetrVG hinzu, sobald ein Tool zur Leistungs- oder Verhaltenskontrolle geeignet ist. Wie sich das in den Gesamtablauf einfügt, zeigt unser Leitfaden zur KI-Einführung im Unternehmen.

Konkrete Tools: wo es meist hakt

Bei ChatGPT, Microsoft Copilot und vergleichbaren Diensten scheitert die Freigabe selten an der Technik, sondern an Tarif und Konfiguration. Die datenschutzrechtliche Detailprüfung für die häufigsten Tools beschreibt unser Datenschutzportal ausführlich, etwa zum Einsatz von ChatGPT im Unternehmen.

Wenn Sie mehrere Tools parallel bewerten müssen oder niemand im Haus die Freigaben zusammenhält, übernimmt ein externer KI-Beauftragter die Prüfung, das KI-Register und die Abstimmung mit Datenschutzbeauftragtem und Betriebsrat.

Häufige Fragen

Welche KI ist DSGVO-konform? +

Kein KI-Tool ist für sich genommen DSGVO-konform oder nicht. Ob der Einsatz zulässig ist, hängt vom Vertrag (Auftragsverarbeitung, kein Training mit Ihren Daten), vom Datenstandort, von der Konfiguration und vom konkreten Zweck ab. Dasselbe Tool kann für Textentwürfe ohne Personenbezug unproblematisch und für die Auswertung von Bewerberdaten unzulässig sein.

Ist ChatGPT DSGVO-konform nutzbar? +

Mit einer Business- oder Enterprise-Lizenz, abgeschlossenem Auftragsverarbeitungsvertrag, ausgeschlossenem Training mit Ihren Eingaben und klaren Nutzungsregeln ist ein datenschutzgerechter Einsatz für viele Anwendungsfälle möglich. Private Accounts der Beschäftigten erfüllen diese Voraussetzungen in der Regel nicht.

Brauche ich für KI-Tools einen Auftragsverarbeitungsvertrag? +

Ja, sobald der Anbieter personenbezogene Daten in Ihrem Auftrag verarbeitet — und das ist bei Prompts mit Namen, E-Mails oder Kundendaten praktisch immer der Fall. Der Vertrag nach Art. 28 DSGVO muss vor der Nutzung stehen, nicht danach.

Reicht EU-Hosting für eine DSGVO-konforme KI? +

EU-Hosting vereinfacht die Prüfung, ersetzt sie aber nicht. Entscheidend ist zusätzlich, ob Support- oder Konzerngesellschaften aus Drittländern zugreifen können, ob Eingaben zum Training genutzt werden und wie lange Daten gespeichert bleiben.

Muss ich für ein KI-Tool eine Datenschutz-Folgenabschätzung machen? +

Nicht für jedes. Eine DSFA nach Art. 35 DSGVO ist nötig, wenn die Verarbeitung voraussichtlich ein hohes Risiko für Betroffene hat — etwa wenn KI Personen bewertet, Beschäftigte überwacht oder in großem Umfang sensible Daten verarbeitet. Für einen Schreibassistenten ohne Personenbezug ist sie meist nicht erforderlich; die Prüfung und ihr Ergebnis sollten Sie trotzdem dokumentieren.