KI und Datenschutz: 10 Prüfpunkte vor dem Einsatz von ChatGPT, Copilot & Co.

Künstliche Intelligenz ist datenschutzkonform, wenn Ihre konkrete Verarbeitung personenbezogener Daten die DSGVO erfüllt. Kein KI-Tool ist von sich aus „DSGVO-konform“: Es kommt auf Zweck, Daten, Vertrag und Einstellungen an. Dieser Ratgeber gibt Ihnen 10 Prüfpunkte vor dem Einsatz von ChatGPT, Microsoft Copilot, Gemini und ähnlichen Tools. Dazu kommen Angaben der Anbieter, Datenklassen für Ihr Team und Kriterien für EU-Hosting. Dieser Ratgeber ist keine Rechtsberatung.

Kurz zusammengefasst

• Rechtsgrundlage: Jeder Verarbeitungsschritt mit personenbezogenen Daten braucht eine Rechtsgrundlage. Gesundheitsdaten und andere besondere Kategorien sind nur ausnahmsweise erlaubt (Art. 9 DSGVO).
• Auftragsverarbeitung: Verarbeitet der KI-Anbieter personenbezogene Daten in Ihrem Auftrag, gilt Artikel 28 DSGVO. Grundlage ist in der Regel ein Vertrag nach Artikel 28 DSGVO.
• USA: Übermittlungen an US-Organisationen auf der „Data Privacy Framework List“ erlaubt der Angemessenheitsbeschluss (EU) 2023/1795. Laut EUR-Lex ist er in Kraft. Ein Rechtsmittel gegen das Urteil, das ihn bestätigte, ist beim Gerichtshof der EU anhängig (Stand: 20.10.2026).
• Folgenabschätzung: Bei KI ist laut Datenschutzkonferenz vielfach eine Datenschutz-Folgenabschätzung nötig. Dann ist auch ein Datenschutzbeauftragter Pflicht, unabhängig von der Zahl der Beschäftigten (§ 38 Abs. 1 BDSG).
• Private Konten: Manche Anbieter nutzen Eingaben aus Privatversionen zum Training, wenn Nutzer das nicht abschalten (Stand: Oktober 2026). Die DSK empfiehlt Firmenkonten.
• KI-Verordnung: Die KI-Verordnung (AI Act) lässt die DSGVO grundsätzlich unberührt (Art. 2 Abs. 7). Beide Gesetze gelten nebeneinander.

Wann ist der Einsatz von KI DSGVO-konform?

Die DSGVO gilt, sobald ein KI-Tool personenbezogene Daten verarbeitet. Das sind alle Informationen über eine identifizierte oder identifizierbare natürliche Person (Art. 4 Nr. 1 DSGVO). Solche Daten können in Eingaben, in Ausgaben und bei der Anmeldung vorkommen (DSK, Rn. 4). Auch eine Eingabe ohne Personenbezug kann eine Ausgabe mit Personenbezug erzeugen (Rn. 52). Anonyme Informationen und Daten juristischer Personen fallen dagegen nicht unter die DSGVO (Erwägungsgründe 14 und 26).

Prüfen Sie auch die Herkunft eines fremden KI-Modells. Enthält es personenbezogene Daten, achten Aufsichtsbehörden laut Europäischem Datenschutzausschuss (EDSA) auf eine Frage: Hat das Unternehmen angemessen geklärt, dass das Modell rechtmäßig entwickelt wurde? Wie gründlich, hängt vom Risiko ab (Stellungnahme 28/2024).

Die DSGVO wurde laut EUR-Lex bisher nur berichtigt, nicht geändert. Die EU-Kommission hat Änderungen vorgeschlagen (COM(2025) 501 und COM(2025) 837). Es gilt der bisherige Text (Stand: 20.10.2026).

10 Prüfpunkte vor dem Einsatz von ChatGPT, Copilot & Co.

Die Liste folgt der DSGVO und der Orientierungshilfe der Datenschutzkonferenz (DSK) vom 6. Mai 2024. Sie ist eine Arbeitshilfe, keine gesetzliche Liste.

• 1. Zweck und Rechtsgrundlage sind für jeden Einsatz festgelegt (Art. 6 und 9 DSGVO).
• 2. Auftragsverarbeitung ist mit dem Anbieter geregelt.
• 3. Speicherort und Drittlandtransfer sind bekannt und abgesichert (Art. 44 ff.).
• 4. Training und Verlauf sind bewusst eingestellt.
• 5. Datenschutz-Folgenabschätzung ist geprüft und, falls nötig, erstellt (Art. 35).
• 6. Betroffene sind informiert (Art. 13 und 14).
• 7. Ergebnisse über Personen prüft ein Mensch, Entscheidungen trifft ein Mensch (Art. 5, 16 und 22).
• 8. Löschung und Auskunft funktionieren auch im KI-Tool (Art. 15 bis 17).
• 9. Zugriff, Konten und Protokolle sind geregelt (Art. 32).
• 10. Regeln, Schulung und Verzeichnis sind schriftlich festgehalten (Art. 30).

1. Zweck und Rechtsgrundlage festlegen

Legen Sie vor dem Start fest, wofür das Tool dient (DSK, Rn. 1). Jeder Verarbeitungsschritt mit personenbezogenen Daten braucht eine Rechtsgrundlage (Rn. 9). In Betracht kommen etwa ein Vertrag mit der betroffenen Person oder ein berechtigtes Interesse (Art. 6 Abs. 1 Buchst. b und f).

Gesundheitsdaten und andere besondere Kategorien dürfen Sie grundsätzlich nicht verarbeiten. Ausnahmen nennt Art. 9 Abs. 2, etwa die ausdrückliche Einwilligung. Behält sich ein Anbieter vor, Eingaben für eigene Zwecke zu nutzen, gehören grundsätzlich keine personenbezogenen Daten hinein. So steht es in der Checkliste der Hamburger Datenschutzaufsicht (HmbBfDI, Nr. 5).

2. Auftragsverarbeitung regeln

Nutzen Sie ein Cloud-Tool für eigene Zwecke, ist der Anbieter häufig Ihr Auftragsverarbeiter (DSK, Rn. 32). Dann gilt Artikel 28 DSGVO. Grundlage ist in der Regel ein Vertrag nach Artikel 28 DSGVO. Die Anbieter in der Tabelle unten nennen ihn „Data Processing Addendum“ oder „Data Protection Addendum“ (DPA). Der Vertrag regelt unter anderem:

• Verarbeitung nur auf Ihre dokumentierte Weisung
• Vertraulichkeit der Personen, die die Daten verarbeiten
• Regeln für weitere Auftragsverarbeiter
• Unterstützung bei Anfragen betroffener Personen
• Löschung oder Rückgabe der Daten am Ende

Der Vertrag ist schriftlich abzufassen, das geht auch elektronisch (Art. 28 Abs. 9). Prüfen Sie, ob er für Ihren Tarif gilt. OpenAI bietet ihn laut eigener Seite für ChatGPT Business, ChatGPT Enterprise und die API an. Für private Konten ist OpenAI laut seiner Datenschutzerklärung selbst Verantwortlicher.

3. Speicherort und Drittlandtransfer prüfen

Fragen Sie, wo der Anbieter und seine Dienstleister Daten speichern und verarbeiten. Bei Cloud-Tools sind Übermittlungen in Drittstaaten häufig (DSK, Rn. 17). Sie sind nur nach Kapitel V der DSGVO zulässig (Art. 44).

Daten dürfen an US-Organisationen fließen, die auf der „Data Privacy Framework List“ des US-Handelsministeriums stehen. Das regelt der Durchführungsbeschluss (EU) 2023/1795 (Art. 1). Das Gericht der EU hat eine Klage dagegen am 3. September 2025 abgewiesen (T-553/23). Der Kläger hat am 31. Oktober 2025 Rechtsmittel beim Gerichtshof eingelegt (C-703/25 P). Laut Register des Gerichtshofs ist das Verfahren anhängig. Laut EUR-Lex ist der Beschluss in Kraft (Stand: 20.10.2026).

Ohne Angemessenheitsbeschluss brauchen Sie geeignete Garantien, etwa Standarddatenschutzklauseln der Kommission (Art. 46 Abs. 2 Buchst. c). Achten Sie auf Ausnahmen innerhalb eines Tools, etwa bei der Websuche (siehe Tabelle unten).

4. Training und Verlauf einstellen

Prüfen Sie, ob der Anbieter Ein- und Ausgaben zum Training nutzt und ob Sie das ausschließen können (DSK, Rn. 24). Ist kein Ausschluss möglich und sind personenbezogene Daten betroffen, braucht auch das Training eine Rechtsgrundlage. Für Firmenkonten empfiehlt die DSK zwei Voreinstellungen: kein Training mit Eingaben und keine Eingabe-Historie über die Sitzung hinaus (Rn. 43). Teils lässt sich das Training nur mit einem bestimmten Vertragsmodell ausschließen (HmbBfDI, Nr. 8).

5. Datenschutz-Folgenabschätzung prüfen

Bewerten Sie vor jeder Verarbeitung personenbezogener Daten das Risiko (DSK, Rn. 38). Ist es voraussichtlich hoch, ist eine Datenschutz-Folgenabschätzung (DSFA) Pflicht (Art. 35 Abs. 1). Laut DSK ist das beim Einsatz von KI vielfach der Fall (Rn. 39). Die DSK-Liste für Unternehmen nennt ausdrücklich KI, die personenbezogene Daten verarbeitet, um die Interaktion mit Betroffenen zu steuern oder persönliche Aspekte zu bewerten. Typisch ist Kundensupport mit KI, etwa ein System, das Kunden im Gespräch berät (Muss-Liste, Nr. 11).

Für die DSFA brauchen Sie Angaben des Anbieters zur Funktionsweise (Rn. 40). Unterliegt eine Verarbeitung der DSFA, muss Ihr Unternehmen einen Datenschutzbeauftragten benennen. Das gilt unabhängig von der Zahl der Beschäftigten (§ 38 Abs. 1 Satz 2 BDSG).

6. Betroffene informieren

Geben Sie personenbezogene Daten in ein KI-Tool ein, informieren Sie die betroffenen Personen (DSK, Rn. 48). Dazu gehören Zweck, Rechtsgrundlage, Empfänger und Übermittlungen in Drittländer (Art. 13 Abs. 1, Art. 14 Abs. 1). Erzeugt die KI eine Ausgabe mit Personenbezug, kann eine Information nach Art. 14 nötig sein. Laut DSK gilt das zumindest, wenn die Anfrage auf eine Person zielte oder Sie die Ausgabe weiterverarbeiten (Rn. 52). Die Kennzeichnung von KI-Inhalten regelt dagegen die KI-Verordnung, siehe KI-Kennzeichnungspflicht.

7. Ergebnisse prüfen und Menschen entscheiden lassen

Personenbezogene Daten müssen sachlich richtig sein (Art. 5 Abs. 1 Buchst. d). Falsche KI-Ergebnisse über Personen können zu unzulässigen Verarbeitungen führen. Prüfen Sie solche Ergebnisse deshalb vor der Weiterverarbeitung (DSK, Rn. 64 und 65). Betroffene können die Berichtigung unrichtiger Daten verlangen (Art. 16). Das muss auch im KI-Tool umsetzbar sein (Rn. 27).

Eine Entscheidung mit rechtlicher Wirkung oder ähnlich erheblicher Beeinträchtigung darf grundsätzlich nicht ausschließlich automatisiert fallen (Art. 22 Abs. 1). Ausnahmen gelten, wenn die Entscheidung für einen Vertrag erforderlich ist, ein Gesetz sie erlaubt oder die Person ausdrücklich einwilligt (Abs. 2). Der Mensch braucht echten Entscheidungsspielraum (Rn. 12). Als Verstoß nennt die DSK eine KI, die Bewerbungen auswertet und selbst zu Gesprächen einlädt (Rn. 13). Mehr im Ratgeber KI-Automatisierung.

8. Löschung und Betroffenenrechte sichern

Betroffene können Auskunft, Berichtigung und Löschung verlangen (Art. 15 bis 17). Planen Sie dafür technische und organisatorische Abläufe (DSK, Rn. 26). Ein Filter, der Ausgaben unterdrückt, ist laut DSK nicht generell eine Löschung (Rn. 29). Klären Sie, wie lange das Tool Verläufe speichert und wer sie löscht.

9. Zugriff, Konten und Protokolle regeln

Stellen Sie Firmenkonten und Firmengeräte bereit, keine privaten Konten (DSK, Rn. 41). Sonst können beim Anbieter Profile einzelner Beschäftigter entstehen. Schützen Sie die Konten mit starken Passwörtern und weiteren Faktoren (HmbBfDI, Nr. 4). Wer unbefugt Zugriff erhält, kann frühere Eingaben und Geschäftsgeheimnisse erfahren (Rn. 45).

Microsoft Copilot zeigt laut Microsoft nur Firmendaten, für die ein Nutzer mindestens Leserechte hat. Räumen Sie Berechtigungen deshalb vor dem Start auf. Kommen neue Datenquellen hinzu, etwa für Antworten aus eigenen Dokumenten (RAG), prüfen Sie jedes Mal die Zugriffsrechte. Das empfiehlt die DSK in ihrer Orientierungshilfe zu technischen Maßnahmen (Abschnitt 2.4.7).

Protokolle helfen, Fehler und Missbrauch zu erkennen. Dabei sind rechtliche Anforderungen zu beachten (BSI, M19). Bei ChatGPT Business können Admins laut OpenAI Unterhaltungen der Nutzer einsehen, exportieren und löschen. Gibt es einen Betriebsrat, prüfen Sie seine Mitbestimmung bei technischen Einrichtungen zur Überwachung von Verhalten oder Leistung (§ 87 Abs. 1 Nr. 6 BetrVG).

10. Regeln, Schulung und Verzeichnis festhalten

Ohne klare Regeln nutzen Beschäftigte KI-Tools oft eigenmächtig (DSK, Rn. 36). Die DSK rät zu dokumentierten Weisungen mit Beispielen für erlaubte und verbotene Einsätze. Ein Muster bietet der Ratgeber KI-Richtlinie für Unternehmen. Schulen Sie Ihr Team (Rn. 46). Die KI-Verordnung verlangt zudem Maßnahmen zur KI-Kompetenz (Art. 4), siehe KI-Schulungspflicht nach dem AI Act.

Tragen Sie jeden KI-Einsatz mit personenbezogenen Daten in Ihr Verzeichnis von Verarbeitungstätigkeiten ein, mit Zwecken, Empfängern, Drittlandübermittlungen und Löschfristen (Art. 30 Abs. 1). Unternehmen unter 250 Beschäftigten sind nur ausgenommen, wenn die Verarbeitung kein Risiko birgt, nur gelegentlich erfolgt und keine besonderen Kategorien oder Daten über Straftaten betrifft (Abs. 5). Bei regelmäßiger Nutzung mit personenbezogenen Daten greift die Ausnahme also nicht. Der Kommissionsvorschlag COM(2025) 501 würde die Ausnahme auf Unternehmen unter 750 Beschäftigten ausweiten, außer bei hohem Risiko. Er gilt noch nicht (Stand: 20.10.2026).

ChatGPT, Microsoft Copilot, Gemini: Privat- und Business-Version

Die Tabelle gibt Angaben der Anbieter auf ihren eigenen Seiten wieder, abgerufen am 20.10.2026 (Stand: Oktober 2026). Sie ist keine Empfehlung und keine Bewertung. Prüfen Sie vor dem Vertrag den aktuellen Stand.

Auch mit einer Business-Version bleiben die 10 Prüfpunkte Ihre Aufgabe.

Was Mitarbeitende nie eingeben sollten

Diese Datenklassen gehören nie in private Konten oder in Tools ohne Freigabe. In freigegebene Tools gehören die ersten drei nur, wenn Ihre Richtlinie es erlaubt. Für personenbezogene Daten brauchen Sie zusätzlich eine Rechtsgrundlage. Zugangsdaten gehören in kein KI-Tool.

Namen zu entfernen reicht oft nicht, denn der Zusammenhang kann eine Person erkennbar machen (DSK, Rn. 49). Ein Beispiel der DSK ist der Entwurf eines Arbeitszeugnisses für einen Kundenberater in einem genannten Autohaus. Er kann Personenbezug haben, wenn erkennbar ist, aus welchem Unternehmen und wann die Anfrage kam (Rn. 50 und 51). Eine Tabelle, welche Datenklasse in welches Tool darf, bietet die Muster-Richtlinie im Ratgeber KI-Richtlinie für Unternehmen.

EU-Hosting und lokale Modelle: Kriterien statt Produktliste

Ein Serverstandort in der EU ersetzt nicht die übrigen Prüfpunkte. Die DSK hält technisch geschlossene Systeme für vorzugswürdig (Rn. 20). Geschlossen heißt: Die Daten bleiben in einer abgegrenzten Umgebung, und nur ein enger Nutzerkreis hat Zugriff. Außerdem trainiert der Anbieter nicht mit den Eingaben (Rn. 16).

Lokal heißt: Das Modell läuft auf Ihren eigenen Servern. Betreiben Sie es nur für eigene Zwecke, sind Sie in der Regel allein Verantwortlicher (DSK, Rn. 32). Die Datensicherheit nach Art. 25 und 32 DSGVO liegt dann ganz bei Ihnen (Rn. 44). Laut EDSA ist ein mit personenbezogenen Daten trainiertes KI-Modell nicht in allen Fällen anonym. Für Hersteller beschreibt eine DSK-Orientierungshilfe vom Juni 2025 technische Maßnahmen. Unternehmen können sie bei der Beschaffung heranziehen (S. 3).

Wann externe Hilfe sinnvoll ist

Externe Hilfe lohnt sich etwa, wenn Sie eine DSFA erstellen, Gesundheits- oder Bewerberdaten verarbeiten oder einen eigenen Chatbot für Kunden planen. Ihren Datenschutzbeauftragten sollten Sie bei Entscheidungen über KI stets einbinden (DSK, Rn. 31). Beratungen mit diesem Schwerpunkt finden Sie unter KI-Governance und AI Act, Generative KI und im Verzeichnis der KI-Berater. Zur Rolle einer KI-Ansprechperson lesen Sie KI-Beauftragter, zu Kursen KI-Schulung für Unternehmen. Rechtliche Einzelfragen klären Sie mit einer Anwältin oder einem Anwalt.

Häufige Fragen zu KI und Datenschutz

Ist ChatGPT DSGVO-konform?

Nicht von sich aus, denn die DSGVO bewertet Ihre konkrete Nutzung, nicht das Tool. Bei ChatGPT Business und Enterprise trainiert OpenAI laut eigener Seite standardmäßig nicht mit Geschäftsdaten. Für beide bietet OpenAI einen Vertrag zur Auftragsverarbeitung an (Stand: Oktober 2026). Bei privaten Konten kann OpenAI Eingaben zum Training nutzen, wenn Sie das nicht in den Datenkontrollen abschalten. Für personenbezogene Daten brauchen Sie in jedem Fall eine Rechtsgrundlage, müssen Betroffene informieren und eine Datenschutz-Folgenabschätzung prüfen.

Wie nutzen Unternehmen ChatGPT datenschutzkonform?

Nutzen Sie Firmenkonten, wie es die Datenschutzkonferenz empfiehlt, etwa in einer Business-Version, und klären Sie die Auftragsverarbeitung mit dem Anbieter. Schalten Sie das Training mit Eingaben ab. Legen Sie schriftlich fest, welche Daten hinein dürfen, und schulen Sie Ihr Team. Prüfen Sie für jeden Einsatz mit personenbezogenen Daten Rechtsgrundlage, Drittlandtransfer, Informationspflichten und die Datenschutz-Folgenabschätzung.

Was regelt ein Vertrag zur Auftragsverarbeitung bei KI-Tools?

Verarbeitet ein KI-Anbieter personenbezogene Daten in Ihrem Auftrag, gilt Artikel 28 DSGVO. Grundlage ist in der Regel ein Vertrag nach Artikel 28 DSGVO, oft „Data Processing Addendum“ (DPA) genannt. Er regelt etwa Weisungen, Vertraulichkeit, weitere Auftragsverarbeiter, Hilfe bei Betroffenenrechten und die Löschung am Ende. OpenAI bietet ihn laut eigener Seite für ChatGPT Business, ChatGPT Enterprise und die API an (Stand: Oktober 2026).

Wann braucht ein KI-Einsatz eine Datenschutz-Folgenabschätzung?

Wenn die Verarbeitung personenbezogener Daten voraussichtlich ein hohes Risiko für die Rechte von Personen hat (Art. 35 Abs. 1 DSGVO). Laut Datenschutzkonferenz ist das beim Einsatz von KI vielfach der Fall. Die DSK-Liste für Unternehmen nennt ausdrücklich KI, die personenbezogene Daten verarbeitet, um die Interaktion mit Betroffenen zu steuern oder persönliche Aspekte zu bewerten, etwa im Kundensupport. Unterliegt eine Verarbeitung der Folgenabschätzung, muss das Unternehmen auch einen Datenschutzbeauftragten benennen. Das gilt unabhängig von der Zahl der Beschäftigten (§ 38 Abs. 1 BDSG).

Dürfen Unternehmen KI-Tools von US-Anbietern nutzen?

Ja, wenn Sie die Übermittlung nach Kapitel V der DSGVO absichern und die übrigen Pflichten erfüllen. An US-Organisationen auf der „Data Privacy Framework List“ dürfen Daten auf Grundlage des Angemessenheitsbeschlusses (EU) 2023/1795 fließen. Laut EUR-Lex ist er in Kraft (Stand: 20.10.2026). Gegen das Urteil, das 2025 eine Klage dagegen abwies, hat der Kläger Rechtsmittel eingelegt (C-703/25 P). Das Verfahren ist anhängig (Stand: 20.10.2026). Für andere Empfänger brauchen Sie geeignete Garantien, etwa Standarddatenschutzklauseln der Kommission.

Welche Daten dürfen Mitarbeitende nicht in KI-Tools eingeben?

Nie in private Konten oder Tools ohne Freigabe gehören: besondere Kategorien nach Art. 9 DSGVO wie Gesundheitsdaten, Kunden- und Beschäftigtendaten sowie Geschäftsgeheimnisse. In freigegebene Tools gehören sie nur, wenn Ihre Richtlinie es erlaubt; für personenbezogene Daten brauchen Sie zusätzlich eine Rechtsgrundlage. Passwörter, API-Schlüssel und andere Zugangsdaten gehören in kein KI-Tool. Namen zu entfernen reicht oft nicht, denn auch der Zusammenhang kann eine Person erkennbar machen.

Was fällt nicht unter personenbezogene Daten?

Anonyme Informationen, die sich auf keine identifizierbare Person beziehen, fallen nicht unter die DSGVO (Erwägungsgrund 26). Auch Daten juristischer Personen, etwa Name, Rechtsform und Kontaktdaten einer GmbH, sind nicht erfasst (Erwägungsgrund 14), ebenso Daten Verstorbener (Erwägungsgrund 27). Namen von Ansprechpersonen in einer Firma sind aber personenbezogene Daten. Der Personenbezug kann sich zudem aus vielen Merkmalen und dem Zusammenhang ergeben.

Ersetzt die KI-Verordnung die DSGVO?

Nein. Die KI-Verordnung lässt die DSGVO grundsätzlich unberührt (Art. 2 Abs. 7 KI-Verordnung). Vorbehalte gelten nur für Art. 4a und Art. 59: die Verarbeitung besonderer Kategorien zur Erkennung und Korrektur von Verzerrungen und die Weiterverarbeitung in KI-Reallaboren. Laut der Datenschutzaufsicht in Nordrhein-Westfalen (LDI NRW) gilt die DSGVO weiter, wenn KI personenbezogene Daten verarbeitet. Prüfen Sie KI-Einsätze deshalb nach beiden Gesetzen.

Hinweis: Dieser Ratgeber beschreibt den Stand vom 20.10.2026. Er ersetzt keine Rechtsberatung. Die Anbieterangaben haben wir am 20.10.2026 von den Seiten der Anbieter abgerufen. Wir prüfen den Ratgeber spätestens am 20.01.2027 erneut.