KI-Tools richtig auswählen – Datenschutz-Checkliste für ChatGPT, Copilot, Gemini & Co. im Unternehmen

Immer mehr Unternehmen setzen KI-Assistenten ein – und viele starten damit, ohne die Datenschutzfragen systematisch zu klären. Das Ergebnis: Personenbezogene Daten oder Geschäftsgeheimnisse landen bei US-amerikanischen Anbietern, ohne dass ein Auftragsverarbeitungsvertrag vorliegt, das Trainingsdaten-Opt-out aktiviert ist oder der grenzüberschreitende Datentransfer eine taugliche Rechtsgrundlage hat.

Diese Checkliste gibt Ihnen sieben konkrete Prüfpunkte an die Hand, mit denen Sie jedes KI-Tool – ob ChatGPT, Microsoft Copilot, Google Gemini oder ein anderer Dienst – vor dem Einsatz im Unternehmen systematisch bewerten können.

*Hinweis: Dieser Artikel stellt keine Rechtsberatung dar. Die datenschutzrechtliche Einschätzung im Einzelfall hängt von Ihrer konkreten Nutzung, den Daten, die Sie eingeben, und den Vertragsbedingungen des Anbieters ab. Bitte wenden Sie sich für verbindliche Einschätzungen an eine qualifizierte Kanzlei oder Ihren Datenschutzbeauftragten.*

Warum die Tool-Auswahl datenschutzrechtlich relevant ist

KI-Tools sind keine isolierten Desktop-Programme – sie sind Cloud-Dienste, die Ihre Eingaben (Prompts) an Serverinfrastruktur übertragen, dort verarbeiten und ggf. für Modellverbesserungen nutzen. Sobald dabei personenbezogene Daten im Sinne der DSGVO verarbeitet werden – also Daten, die sich auf eine identifizierbare natürliche Person beziehen – greifen die Pflichten der DSGVO in vollem Umfang.

Das betrifft mehr Szenarien als viele denken:

• Ein Prompt mit dem Namen und der Krankheitsgeschichte eines Kunden
• Eine Zusammenfassung eines Bewerbungsgesprächs mit dem Namen des Kandidaten
• Ein Text über ein internes Projekt, in dem Mitarbeitende erwähnt werden
• Eine E-Mail-Vorlage, die auf einen konkreten Empfänger zugeschnitten ist

In all diesen Fällen sind Sie als verantwortliche Stelle verpflichtet, die datenschutzrechtlichen Anforderungen zu erfüllen – unabhängig davon, wie bequem das jeweilige Tool ist.

Checkliste: 7 Prüfpunkte vor dem Unternehmenseinsatz

Prüfpunkt 1: Auftragsverarbeitungsvertrag (AVV) nach Art. 28 DSGVO

Sobald ein externer Dienstleister personenbezogene Daten in Ihrem Auftrag verarbeitet, ist ein Auftragsverarbeitungsvertrag (AVV) gemäß Art. 28 DSGVO Pflicht. Ohne AVV ist die Datenübermittlung an den Anbieter in aller Regel rechtswidrig.

Was zu prüfen ist:

• Bietet der Anbieter einen AVV oder ein vergleichbares Datenschutzaddendum (DPA – Data Processing Agreement) an?
• Ist der AVV für den Tarif, den Sie nutzen, verfügbar – oder nur für teurere Enterprise-Pakete?
• Welche Pflichten des Auftragsverarbeiters (Art. 28 Abs. 3 DSGVO) sind konkret geregelt: Weisungsgebundenheit, Vertraulichkeit, Sicherheitsmaßnahmen, Sub-Auftragsverarbeiter, Unterstützungspflichten bei Betroffenenanfragen?

Worauf Sie achten sollten:

Viele Anbieter stellen AVV-Dokumente bereit, aber teilweise nur für Business- oder Enterprise-Tarifstufen. Prüfen Sie, ob der von Ihnen genutzte Tarif explizit einbezogen ist. Vergewissern Sie sich außerdem, welche Sub-Auftragsverarbeiter der Anbieter benennt – das ist bei Cloud-KI-Diensten oft eine längere Liste.

Prüfpunkt 2: Datenstandort – EU/EWR-Hosting oder Drittlandtransfer?

Werden die Daten ausschließlich in der Europäischen Union oder dem Europäischen Wirtschaftsraum verarbeitet, oder fließen sie in Drittländer – insbesondere in die USA?

Was zu prüfen ist:

• Wo befinden sich die Server, auf denen Ihre Prompts und die zugehörigen Daten verarbeitet werden?
• Gibt es eine Option für EU-Hosting oder EU-Datenresidenz – und in welchem Tarif ist sie enthalten?
• Werden Daten auch temporär in Drittländer übertragen (z. B. für Load Balancing oder Support)?

Worauf Sie achten sollten:

Einige Anbieter bieten für Enterprise-Kunden dedizierte EU-Datenzentren an. Prüfen Sie, ob diese Option für Sie verfügbar ist und welche Einschränkungen gelten. Wenn Daten in Drittländer fließen, gelten zusätzlich die Anforderungen aus Art. 44 ff. DSGVO (siehe Prüfpunkt 3).

Prüfpunkt 3: Drittlandtransfer – Schrems II und EU-US Data Privacy Framework

Wenn Daten in die USA oder andere Drittländer übertragen werden, braucht der Transfer eine eigene Rechtsgrundlage nach Art. 44 ff. DSGVO.

Was zu prüfen ist:

• Stützt der Anbieter den Transfer auf einen Angemessenheitsbeschluss der EU-Kommission (z. B. das EU-US Data Privacy Framework, kurz EU-US DPF)?
• Ist der Anbieter unter dem EU-US DPF zertifiziert – und lässt sich das im öffentlichen Register des U.S. Department of Commerce nachprüfen?
• Alternativ: Werden Standardvertragsklauseln (SCC, Standard Contractual Clauses) verwendet – und sind dort Transfer Impact Assessments (TIA) dokumentiert?
• Welche Risiken ergeben sich aus US-amerikanischen Überwachungsgesetzen (FISA 702, Executive Order 14086)?

Hintergrund:

Das EU-US Data Privacy Framework wurde im Juli 2023 als Nachfolger des für ungültig erklärten Privacy Shield eingeführt. Ob und wie lange es Bestand haben wird, ist politisch und juristisch umstritten – der EuGH hat in den sog. Schrems-Entscheidungen (Schrems I 2015, Schrems II 2020) bereits zwei Vorgänger für ungültig erklärt. Unternehmen, die sich auf das EU-US DPF stützen, sollten die Entwicklung beobachten und ggf. ergänzende Maßnahmen (SCC + TIA) vorsehen.

Prüfpunkt 4: Trainingsdaten-Opt-out – werden Ihre Eingaben zum Modelltraining genutzt?

Viele KI-Anbieter nutzen Nutzereingaben zur Verbesserung ihrer Modelle – es sei denn, Sie widersprechen oder wählen einen Tarif, der dies ausschließt.

Was zu prüfen ist:

• Werden Prompts und Antworten standardmäßig für das Modelltraining genutzt?
• Gibt es eine Opt-out-Möglichkeit – entweder in den Kontoeinstellungen oder durch Wahl eines bestimmten Tarifs?
• Gilt der Opt-out auch für Eingaben vor der Opt-out-Erklärung, oder nur für künftige Interaktionen?
• Wie lange werden Konversationsdaten gespeichert, auch wenn kein Training erfolgt?

Worauf Sie achten sollten:

Consumer-Tarifstufen schließen das Training häufig nicht aus. Enterprise- oder Business-Pakete bieten dies dagegen oft als festes Leistungsmerkmal. Prüfen Sie die geltenden Nutzungsbedingungen und Datenschutzhinweise für Ihren konkreten Tarif – und stellen Sie sicher, dass die Regelung schriftlich fixiert ist (idealerweise im AVV).

Prüfpunkt 5: Rollen und Zugriffskontrolle

Wer in Ihrem Unternehmen darf welche KI-Tools für welche Zwecke nutzen? Und hat der Anbieter ausreichende Zugriffskontrollen auf seiner Seite?

Was zu prüfen ist:

• Unterstützt der Anbieter Single Sign-On (SSO) oder zentrale Benutzerverwaltung, damit Sie Zugang steuern und entziehen können?
• Gibt es Audit-Logs oder Aktivitätsprotokolle, aus denen hervorgeht, wer wann welche Daten eingegeben hat?
• Können Sie die Nutzung auf bestimmte Abteilungen oder Nutzergruppen beschränken (z. B. über Policies oder Kontoeinstellungen)?
• Wie ist die Authentifizierung auf Anbieterseite gesichert?

Warum das relevant ist:

Datenschutzrechtlich sind Sie verantwortliche Stelle und müssen technische und organisatorische Maßnahmen (TOMs) nach Art. 25 und Art. 32 DSGVO nachweisen. Dazu gehört auch, dass der Zugang zu Systemen, die personenbezogene Daten verarbeiten, auf das notwendige Minimum beschränkt ist (Datensparsamkeit und Zugriffskontrolle nach Art. 5 Abs. 1 lit. c und e DSGVO).

Prüfpunkt 6: Löschkonzept – wie lange werden Daten gespeichert?

Personenbezogene Daten dürfen nur so lange gespeichert werden, wie sie für den festgelegten Zweck erforderlich sind (Speicherbegrenzung, Art. 5 Abs. 1 lit. e DSGVO).

Was zu prüfen ist:

• Wie lange speichert der Anbieter Prompts, Konversationsverläufe und zugehörige Metadaten?
• Gibt es eine Möglichkeit, Konversationen manuell zu löschen – und werden dabei auch Kopien auf Serverebene entfernt?
• Können Sie eine automatische Löschung nach einer bestimmten Frist konfigurieren?
• Wie verhält sich der Anbieter bei einer Löschanfrage nach Art. 17 DSGVO (Recht auf Vergessenwerden)?

Worauf Sie achten sollten:

Prüfen Sie, ob die Löschzusagen im AVV verbindlich sind oder ob sie unter Vorbehalten stehen (z. B. gesetzliche Aufbewahrungspflichten des Anbieters). Achten Sie darauf, dass auch Backup-Kopien in den Löschprozess einbezogen sind.

Prüfpunkt 7: Zweckbindung – für welche Zwecke werden Daten verarbeitet?

Daten dürfen nur für festgelegte, eindeutige und legitime Zwecke erhoben und nicht in einer mit diesen Zwecken unvereinbaren Weise weiterverarbeitet werden (Art. 5 Abs. 1 lit. b DSGVO).

Was zu prüfen ist:

• Für welche Zwecke nutzt der Anbieter eingegebene Daten explizit: Nur für die Diensteerbringung? Auch für Produktentwicklung, Sicherheitsanalysen, Werbung?
• Werden Ihre Daten mit Daten anderer Kunden zusammengeführt oder zum Training von Modellen genutzt, die anderen Kunden zugutekommen?
• Gibt es klare Zusagen, dass Ihre Unternehmensdaten nicht für andere Zwecke als die Erbringung des Dienstes verwendet werden?

Worauf Sie achten sollten:

Die Zweckbindung ist oft im Kleingedruckten der Nutzungsbedingungen geregelt. Consumer-Tarife erlauben häufig eine breitere Datennutzung als Enterprise-Produkte. Für den Einsatz im Unternehmen mit sensiblen Daten sollten Sie ausschließlich Tarife in Betracht ziehen, die eine klare, enge Zweckbindung zusichern.

Übersichtstabelle: Typische Unterschiede Consumer vs. Enterprise

Die folgende Übersicht beschreibt häufige Muster bei KI-Anbietern – keine Garantie für einzelne Produkte, die sich ändern. Prüfen Sie stets die aktuellen Bedingungen des jeweiligen Anbieters.

| Kriterium | Consumer-Tarif (typisch) | Enterprise-/Business-Tarif (typisch) | |---|---|---| | AVV verfügbar | Nein oder eingeschränkt | Ja, in der Regel inklusive | | Trainingsdaten-Opt-out | Nicht automatisch, ggf. manuell | Häufig standardmäßig ausgeschlossen | | EU-Datenspeicherung | Keine Garantie | Oft wählbar oder Standard | | Audit-Logs | Keine | Häufig verfügbar | | SSO/Benutzerverwaltung | Nicht verfügbar | Verfügbar | | Löschfristen | Anbieterstandard | Konfigurierbar oder vertraglich zugesichert |

*Diese Tabelle ist eine typisierende Orientierung. Maßgeblich sind stets die aktuellen Vertragsbedingungen und Datenschutzdokumente des jeweiligen Anbieters.*

Konkrete Handlungsempfehlungen

Aus den sieben Prüfpunkten lassen sich praktische Schritte ableiten:

1. Bestandsaufnahme: Welche KI-Tools nutzen Mitarbeitende – auch ohne offizielle Freigabe (Shadow AI)? Erstellen Sie eine Liste aller eingesetzten Dienste.

1. Tarif und Vertrag prüfen: Für jedes Tool: Liegt ein AVV vor? In welchem Tarif? Sind Drittlandtransfer und Trainingsdaten-Opt-out geregelt?

1. Whitelist und Freigabeprozess: Legen Sie fest, welche Tools unter welchen Bedingungen freigegeben sind. Nicht freigegebene Tools sollten klar untersagt sein.

1. Technische Maßnahmen umsetzen: SSO aktivieren, Audit-Logs einschalten, automatische Löschfristen konfigurieren – soweit der Tarif das erlaubt.

1. Mitarbeitende schulen: Mitarbeitende müssen wissen, was sie eingeben dürfen und was nicht. Eine schriftliche KI-Richtlinie für Ihr Unternehmen ist dabei der organisatorische Rahmen.

1. Dokumentieren: Halten Sie fest, welche Prüfungen Sie vorgenommen haben, welche Ergebnisse Sie erzielt haben und welche Entscheidungen Sie getroffen haben. Diese Dokumentation ist Bestandteil Ihrer Rechenschaftspflicht (Art. 5 Abs. 2 DSGVO).

Verbindung zu Art. 4 EU AI Act und KI-Kompetenzpflicht

Die Auswahl datenschutzkonformer KI-Tools ist nicht nur eine DSGVO-Frage – sie ist auch Teil der KI-Kompetenz im Sinne von Art. 4 EU AI Act. Seit dem 2. Februar 2025 verpflichtet Art. 4 Anbieter und Betreiber von KI-Systemen, nach besten Kräften dafür zu sorgen, dass ihr Personal über ausreichende KI-Kompetenz verfügt.

KI-Kompetenz bedeutet nicht nur, ein Tool bedienen zu können. Sie umfasst auch das Verständnis der rechtlichen Rahmenbedingungen, der Risiken und der datenschutzkonformen Nutzung. Wer Mitarbeitende mit KI-Tools ausstattet, ohne sie in diesen Fragen zu schulen, handelt nicht nur datenschutzrechtlich riskant – er erfüllt auch die Anforderungen aus Art. 4 EU AI Act nicht in der gebotenen Weise.

*Wichtiger Hinweis: Art. 4 EU AI Act enthält keinen eigenen Bußgeldtatbestand. Die in der Öffentlichkeit oft zitierten Sanktionen von bis zu 35 Mio. Euro oder 7 % des Jahresumsatzes beziehen sich auf schwerwiegende Verstöße nach Art. 5 EU AI Act (verbotene KI-Praktiken) und auf Verstöße nach Art. 71 EU AI Act. Eine Kopplung dieser Beträge an fehlende Schulungsmaßnahmen nach Art. 4 wäre sachlich falsch.*

Was als nächstes tun?

Wer die sieben Prüfpunkte durchgearbeitet hat, sollte parallel sicherstellen, dass die Schulung der Mitarbeitenden auf dem gleichen Stand ist. Denn die beste Datenschutzprüfung nützt wenig, wenn Mitarbeitende im Alltag trotzdem sensible Daten in nicht freigegebene Tools eingeben.

Nützliche weiterführende Artikel:

• DSGVO und KI-Tools: Was beim Einsatz zu beachten ist – ausführliche Grundlagen zu Rechtsgrundlagen und Pflichten
• KI-Richtlinie für Unternehmen erstellen – organisatorischer Rahmen für den KI-Einsatz
• 10 Regeln für den sicheren Umgang mit ChatGPT am Arbeitsplatz – direkt umsetzbare Regeln für Mitarbeitende
• Prompting-Grundlagen für Mitarbeitende – wie Prompts formuliert werden, ohne Datenschutzregeln zu verletzen

Nächster Schritt: Schulungsnachweis für Ihr Team

Datenschutzkonforme Tool-Auswahl ist der erste Schritt. Der zweite: sicherstellen, dass Ihre Mitarbeitenden die nötige KI-Kompetenz haben, um die freigegebenen Tools verantwortungsvoll zu nutzen. Das KI-Kompetenz-Zertifikat nach Art. 4 von ki-zertifizieren.de umfasst 5–7 Lernmodule, eine Abschlussprüfung und ein personalisiertes PDF-Zertifikat mit Verifizierungs-ID – in unter 60 Minuten, für 47 € pro Person.

Für Teams bietet das Firmen-Portal eine zentrale Verwaltung: Mitarbeitende einladen, Lernfortschritt überwachen, Nachweise zentral herunterladen – genau das, was eine DSGVO- und AI-Act-konforme Compliance-Dokumentation braucht.

Nicht sicher, wo Ihr Unternehmen gerade steht? Der kostenlose KI-Kompetenz-Schnellcheck gibt Ihnen in unter 5 Minuten eine erste Einschätzung – ohne Anmeldung.