AUF EINEN BLICK
KI & Datenschutz – kurz zusammengefasst
Wer ChatGPT, Claude, Copilot oder Gemini im Unternehmen mit Kunden-E-Mails, Angeboten oder Kundendaten füttert, verarbeitet in aller Regel personenbezogene Daten – und ist damit voll im Anwendungsbereich der DSGVO. Entscheidend sind drei Punkte: ein Business-Tarif mit Auftragsverarbeitungsvertrag (AVV) statt privater Accounts, eine saubere Grundlage für den Datentransfer, wenn Daten in die USA gehen (EU-US Data Privacy Framework oder Standardvertragsklauseln), und klare Regeln im Team, welche Daten in welches Tool dürfen. EU-Hosting ist möglich, aber nicht bei jedem Anbieter und nicht in jedem Tarif. Dieser Ratgeber zeigt, worauf Sie achten müssen – Stand: November 2026.
Privat oder beruflich: Warum das nicht dasselbe ist
Viele kennen ChatGPT oder Claude aus dem privaten Alltag: Rezeptideen, Urlaubsplanung, ein Brief an den Vermieter. Dort gilt die DSGVO für Sie selbst praktisch nicht – Artikel 2 nimmt rein persönliche und familiäre Tätigkeiten ausdrücklich aus. Sie entscheiden allein, was Sie von sich preisgeben.
Sobald Sie ein KI-Tool beruflich nutzen, ändert sich die Lage grundlegend. Ihr Unternehmen wird zum Verantwortlichen im Sinne der DSGVO. Das heißt: Sie müssen für jede Verarbeitung personenbezogener Daten eine Rechtsgrundlage haben, den KI-Anbieter vertraglich einbinden, Ihre Kunden informieren und dafür sorgen, dass die Daten sicher sind. Das gilt auch dann, wenn ein Mitarbeiter „nur mal schnell“ eine Kundenmail in seinen privaten ChatGPT-Account kopiert – verantwortlich bleibt das Unternehmen.
Der zweite große Unterschied liegt in den Tarifen selbst: Die kostenlosen und günstigen Privat-Tarife der großen Anbieter sind für Verbraucher gemacht. Sie haben in der Regel keinen Auftragsverarbeitungsvertrag und nutzen Ihre Eingaben je nach Einstellung zum Training künftiger Modelle. Für den Einsatz mit Kundendaten sind sie deshalb nicht geeignet.
Wann sind personenbezogene Daten im Spiel?
Personenbezogen ist jede Information, die sich auf eine identifizierbare Person bezieht. Das ist schneller der Fall, als viele denken. Typische Beispiele aus dem Büroalltag:
- Kunden-E-Mails: Name, E-Mail-Adresse, Signatur mit Telefonnummer, Inhalt der Anfrage
- Angebote und Rechnungen: Ansprechpartner, Adresse, Auftragsdetails
- Bewerbungen und Personalunterlagen
- Gesprächsnotizen, Protokolle, Support-Tickets
- Datenbank-Exporte und Tabellen, etwa aus CRM oder Shop
- Code und Logdateien, in denen Kundendaten, E-Mail-Adressen oder IP-Adressen stehen
Keine personenbezogenen Daten sind dagegen zum Beispiel ein allgemeiner Werbetext, eine Produktbeschreibung oder eine Frage wie „Wie formuliere ich eine freundliche Zahlungserinnerung?“. Für solche Aufgaben ist der Datenschutz unkritisch – Betriebsgeheimnisse sollten Sie trotzdem nicht in Privat-Accounts eingeben.
Besonders heikel sind besondere Kategorien nach Art. 9 DSGVO: Gesundheitsdaten, religiöse Überzeugungen, Gewerkschaftszugehörigkeit oder biometrische Daten. Hier gelten deutlich strengere Regeln.
Privat-Tarif, Business-Tarif, API: der wichtigste Unterschied
Bei allen großen Anbietern gibt es grob drei Stufen. Die Bezeichnungen ändern sich häufig, das Prinzip bleibt gleich:
| Privat-Tarife z. B. ChatGPT Free/Plus/Pro, Claude Free/Pro/Max | Business-Tarife z. B. ChatGPT Business, Claude Team, Copilot für M365 | Enterprise & API | |
|---|---|---|---|
| AVV / DPA | Nein | Ja | Ja |
| Training mit Ihren Daten | Je nach Einstellung ja – teils standardmäßig aktiv | Standardmäßig nein | Standardmäßig nein |
| Zentrale Verwaltung | Nein, jeder hat sein eigenes Konto | Ja, Admin-Bereich | Ja, oft mit SSO und Aufbewahrungsregeln |
| EU-Datenresidenz | Nein | Meist nein | Teilweise, je nach Anbieter |
| Für Kundendaten geeignet? | Nein | Ja, mit Regeln | Ja, mit Regeln |
Ein Beispiel für die Unterschiede im Detail: Bei Anthropic gilt seit Herbst 2025 für die Privat-Tarife Free, Pro und Max – ausdrücklich auch für Claude Code aus diesen Konten –, dass Chats zum Training genutzt und dann bis zu fünf Jahre gespeichert werden können, wenn man nicht widerspricht. Team, Enterprise und die API laufen dagegen unter den gewerblichen Bedingungen ohne Training. Bei OpenAI ist es ähnlich: Free, Plus und Pro trainieren standardmäßig mit, Business, Enterprise und API nicht.
Faustregel: Ein Privat-Tarif mit deaktiviertem Training ist besser als nichts – ein Business-Tarif ersetzt er aber nicht, denn ohne AVV fehlt die vertragliche Grundlage nach Art. 28 DSGVO.
Hosting-Standort: Deutschland, EU oder USA?
Die großen KI-Anbieter sitzen in den USA, die Rechenzentren meist auch. Ein Datentransfer in die USA ist nach der DSGVO nicht verboten – er braucht aber eine tragfähige Grundlage nach Kapitel V DSGVO. Dafür gibt es im Wesentlichen drei Wege:
1. USA mit EU-US Data Privacy Framework (DPF)
Seit Juli 2023 gilt der Angemessenheitsbeschluss der EU-Kommission zum Data Privacy Framework. Ist der US-Anbieter dort zertifiziert, dürfen Daten ähnlich wie innerhalb der EU übermittelt werden. Das Gericht der EU hat den Rahmen im September 2025 bestätigt (Rechtssache Latombe), gegen das Urteil läuft aber ein Rechtsmittel beim Europäischen Gerichtshof. Zwei Vorgänger – Safe Harbor und Privacy Shield – hat der EuGH bereits gekippt. Praxis-Tipp: Prüfen Sie auf der offiziellen DPF-Liste, ob Ihr Anbieter zertifiziert ist, und achten Sie darauf, dass der AVV zusätzlich Standardvertragsklauseln enthält. Dann haben Sie eine Rückfallebene, falls das DPF wieder fällt.
2. USA mit Standardvertragsklauseln (SCC)
Die Standardvertragsklauseln der EU-Kommission sind in den Auftragsverarbeitungsverträgen der großen Anbieter in der Regel bereits enthalten. Wer sich darauf stützt, sollte zusätzlich ein kurzes Transfer Impact Assessment dokumentieren – also eine Einschätzung, ob die Daten in den USA ausreichend geschützt sind.
3. Verarbeitung in der EU oder in Deutschland
Immer mehr Anbieter bieten EU-Datenresidenz an – allerdings sehr unterschiedlich:
- OpenAI: Datenresidenz in Europa für ChatGPT Enterprise und Edu sowie für die API (bei neuen Projekten). Der Tarif ChatGPT Business hat sie nicht.
- Anthropic (Claude): Direkt über Anthropic laufen Claude-Apps und API in den USA bzw. global. Eine Verarbeitung in der EU ist über Amazon Bedrock oder Google Vertex AI mit EU-Regionen möglich – das ist vor allem für Automatisierungen und eigene Anwendungen interessant.
- Microsoft 365 Copilot: Grundsätzlich innerhalb der EU Data Boundary. Prüfen Sie aber im Admin-Center, ob bei Lastspitzen eine Verarbeitung außerhalb der EU erlaubt ist, und beachten Sie, dass die in Copilot verfügbaren Anthropic-Modelle laut Microsoft nicht von der EU Data Boundary abgedeckt sind.
- Europäische Anbieter: Mistral AI aus Frankreich bietet mit Le Chat eine europäische Alternative. Außerdem lassen sich offene Modelle bei deutschen Cloud-Anbietern oder auf einem eigenen Server betreiben – maximale Kontrolle, aber mehr Aufwand.
Wichtig: EU-Hosting bei einem US-Konzern löst nicht jedes Problem. US-Unternehmen können über den CLOUD Act zur Herausgabe von Daten verpflichtet werden, auch wenn diese in Europa liegen. Für die meisten Unternehmen ist das mit Business-Tarif, AVV und DPF vertretbar. Für Berufsgeheimnisträger oder hochsensible Daten kann ein europäischer Anbieter oder ein selbst betriebenes Modell die bessere Wahl sein.
Was die DSGVO konkret von Ihnen verlangt
Unabhängig vom Anbieter sollten folgende Punkte erledigt und dokumentiert sein:
- Auftragsverarbeitungsvertrag (Art. 28 DSGVO): Bei OpenAI, Anthropic, Microsoft und Google wird er für Business-Kunden über die Geschäftsbedingungen bzw. ein „Data Processing Addendum“ abgeschlossen. Ablegen und Unterauftragsverarbeiter prüfen.
- Rechtsgrundlage (Art. 6 DSGVO): Die Beantwortung einer Kundenanfrage mit KI-Unterstützung lässt sich meist auf die Vertragsanbahnung bzw. -erfüllung oder auf ein berechtigtes Interesse stützen. Für Gesundheitsdaten und andere besondere Kategorien reicht das nicht.
- Drittlandtransfer (Art. 44 ff. DSGVO): DPF-Zertifizierung oder Standardvertragsklauseln – siehe oben.
- Informationspflichten (Art. 13/14 DSGVO): Ergänzen Sie Ihre Datenschutzerklärung um den KI-Dienst als Empfänger, den Zweck und den Drittlandtransfer.
- Verzeichnis von Verarbeitungstätigkeiten (Art. 30 DSGVO): Den KI-Einsatz als eigene Verarbeitung aufnehmen.
- Technische und organisatorische Maßnahmen: Zwei-Faktor-Anmeldung, Admin-Verwaltung der Accounts, Rollen und Rechte, möglichst kurze Aufbewahrung.
- Datenschutz-Folgenabschätzung (Art. 35 DSGVO): Nötig, wenn ein hohes Risiko besteht – etwa bei großen Mengen sensibler Daten, bei Bewertungen von Personen oder bei der Überwachung von Mitarbeitenden.
- Keine automatisierten Einzelentscheidungen (Art. 22 DSGVO): Entscheidungen mit rechtlicher Wirkung – Kreditwürdigkeit, Bewerberauswahl, Vertragskündigung – darf die KI nicht allein treffen. Ein Mensch muss prüfen und entscheiden.
- Betroffenenrechte: Sie müssen Auskunfts- und Löschanfragen auch für Daten erfüllen können, die in KI-Chats gelandet sind. Auch deshalb sind zentral verwaltete Business-Accounts sinnvoll.
Zusätzlich verlangt die KI-Verordnung (AI Act) seit Februar 2025, dass Unternehmen die KI-Kompetenz ihrer Mitarbeitenden fördern. Eine Schulung zum Thema Datenschutz gehört da ganz selbstverständlich dazu.
Ausblick: Mit dem sogenannten Digital Omnibus will die EU auch die DSGVO anpassen, unter anderem beim Umgang mit pseudonymisierten Daten und beim KI-Training. Diese Änderungen sind noch nicht beschlossen; ein Abschluss wird frühestens 2027 erwartet. Bis dahin gelten die oben genannten Pflichten unverändert.
Praxisbeispiel: Kunden-E-Mails mit KI beantworten
Der häufigste Anwendungsfall im Mittelstand: Eine Kundin schreibt eine längere Anfrage, und die KI soll einen Antwortentwurf formulieren. So machen Sie das datenschutzfreundlich:
- Nur im Business-Account: Kundenmails gehören nie in einen privaten Account – auch nicht mit deaktiviertem Training.
- Datensparsam arbeiten: Für einen guten Antwortentwurf braucht die KI meist weder die Signatur noch die Telefonnummer oder die vollständige Adresse. Kürzen Sie die Mail auf den Inhalt, ersetzen Sie Namen durch Platzhalter wie „[Kundin]“ oder „[Firma]“.
- Keine sensiblen Anhänge: Arztberichte, Ausweiskopien, Gehaltsnachweise oder Vertragsunterlagen Dritter gehören nicht in einen allgemeinen KI-Chat.
- Mensch prüft, Mensch sendet: Die KI liefert den Entwurf, verschickt wird erst nach Kontrolle. Das schützt vor falschen Zusagen und erfüllt nebenbei Art. 22 DSGVO.
- Automatisierung sauber aufsetzen: Wer E-Mails automatisch vorsortieren oder beantworten lässt, etwa mit Make, n8n oder Power Automate, sollte über die API eines Anbieters mit AVV und möglichst EU-Verarbeitung gehen – nicht über Workarounds mit Privat-Accounts.
Sonderfall: Claude Code, Copilot & KI-Agenten
KI-Werkzeuge werden immer selbstständiger. Programmier-Assistenten wie Claude Code, OpenAI Codex oder GitHub Copilot lesen ganze Projektordner, KI-Agenten greifen auf Postfach, Kalender, Laufwerk oder CRM zu. Damit wächst die Menge an Daten, die an den Anbieter fließt – oft ohne dass man jede Datei bewusst auswählt.
- Kontoart prüfen: Claude Code aus einem privaten Pro- oder Max-Konto unterliegt den Privat-Bedingungen. Für Kundenprojekte gehört der Assistent in ein Team-, Enterprise- oder API-Konto.
- Keine echten Kundendaten im Projekt: Datenbank-Dumps, Exporte und Logdateien mit Kundendaten haben im Entwicklungsordner nichts zu suchen. Arbeiten Sie mit Testdaten.
- Zugangsdaten schützen: Passwörter, API-Schlüssel und .env-Dateien vom Zugriff des Assistenten ausnehmen.
- Konnektoren bewusst freigeben: Verbindet ein Agent Ihr Postfach oder Ihre Cloud, verarbeitet er potenziell alles, was dort liegt. Geben Sie nur frei, was für die Aufgabe nötig ist.
- Kunden einbeziehen: Arbeiten Sie als Dienstleister mit Daten Ihrer Kunden, sind Sie selbst Auftragsverarbeiter. Der KI-Anbieter wird dann zum Unterauftragsverarbeiter – das muss Ihr Kunde wissen und erlauben.
Besondere Vorsicht: Gesundheitsdaten, Berufsgeheimnisse, Mitarbeiterdaten
- Arztpraxen, Therapeuten, Pflegedienste: Gesundheitsdaten sind besonders geschützt. Ohne ausdrückliche Einwilligung oder spezielle Rechtsgrundlage haben sie in einem allgemeinen KI-Chat nichts verloren.
- Berufsgeheimnisträger: Für Steuerberater, Anwälte, Ärzte und andere gilt zusätzlich § 203 StGB. Externe Dienstleister dürfen nur eingebunden werden, wenn sie zur Verschwiegenheit verpflichtet sind. Hier lohnt sich eine Lösung mit EU-Verarbeitung und eine Abstimmung mit der zuständigen Kammer.
- Beschäftigtendaten: Bewerbungen, Leistungsbeurteilungen oder Krankmeldungen sind tabu für Privat-Tools. Gibt es einen Betriebsrat, hat er bei KI-Systemen, die Verhalten oder Leistung überwachen können, ein Mitbestimmungsrecht (§ 87 Abs. 1 Nr. 6 BetrVG).
In 7 Schritten zur datenschutzkonformen KI-Nutzung
- Bestand aufnehmen: Welche KI-Tools nutzt Ihr Team schon – auch privat und „nebenbei“? Diese Schatten-KI ist in vielen Betrieben das größte Risiko.
- Anwendungsfälle festlegen: Wofür soll KI eingesetzt werden, und welche Daten sind dabei im Spiel?
- Tool und Tarif wählen: Business-Tarif mit AVV, Training deaktiviert, bei Bedarf EU-Verarbeitung. Für sensible Fälle europäischen Anbieter oder eigenes Hosting prüfen.
- Verträge und Dokumentation erledigen: AVV ablegen, Drittlandtransfer prüfen, Verzeichnis der Verarbeitungstätigkeiten und Datenschutzerklärung ergänzen.
- KI-Richtlinie schreiben: Eine Seite reicht: erlaubte Tools, verbotene Datenarten, Platzhalter statt Namen, Ergebnisse immer prüfen.
- Team schulen: Kurze, praxisnahe Schulung mit Beispielen aus dem eigenen Alltag – das deckt auch die KI-Kompetenzpflicht ab.
- Regelmäßig prüfen: Tarife, Bedingungen und Rechtslage ändern sich laufend. Einmal im Jahr nachsehen, ob alles noch passt.
Typische Fehler
- Jeder im Team nutzt einen eigenen Privat-Account, bezahlt per Firmenkreditkarte.
- Kundenmails werden komplett mit Signatur und Anhängen in den Chat kopiert.
- Das Training wurde „irgendwann mal“ ausgeschaltet – aber niemand weiß, bei wem.
- Ein AVV wurde nie abgeschlossen oder liegt nicht vor.
- Die Datenschutzerklärung erwähnt die KI-Dienste nicht.
- KI-Antworten werden ungeprüft an Kunden verschickt.
- Ein KI-Agent bekommt Zugriff auf das komplette Postfach, obwohl er nur Termine vorschlagen soll.
So unterstütze ich Sie
In meiner KI-Beratung schaue ich mir mit Ihnen an, welche KI-Tools in Ihrem Betrieb sinnvoll sind, welcher Tarif und welcher Hosting-Standort zu Ihren Daten passt und wie Sie Automatisierungen – etwa für Kunden-E-Mails – datenschutzfreundlich aufsetzen. Für Betriebe aus der Region gibt es außerdem die KI-Werkstatt Nordheide. Sprechen Sie mich an.
Hinweis: Dieser Artikel ersetzt keine Rechtsberatung. Für die rechtliche Bewertung Ihres Einzelfalls wenden Sie sich bitte an Ihre Datenschutzbeauftragte bzw. Ihren Datenschutzbeauftragten oder eine Anwältin bzw. einen Anwalt.
Quellen und weiterführende Informationen
Die Angaben in diesem Ratgeber beruhen auf folgenden Quellen (Stand: November 2026):
- Verordnung (EU) 2016/679 – Datenschutz-Grundverordnung (DSGVO) – Amtsblatt der EU
- Datenschutzkonferenz: Orientierungshilfe „Künstliche Intelligenz und Datenschutz“ – Empfehlungen der deutschen Aufsichtsbehörden
- Data Privacy Framework – Liste der zertifizierten Unternehmen – offizielle Liste des US-Handelsministeriums
- WilmerHale: European Court of Justice to Review Challenge to EU-U.S. Data Privacy Framework – zum Rechtsmittel gegen das Latombe-Urteil
- OpenAI: Datenresidenz in Europa – Produkte und Bedingungen
- Anthropic: Updates to our Consumer Terms – Training und Speicherdauer in den Privat-Tarifen
- Heuking: DSGVO, KI und Cookies – was der Digital Omnibus ändern könnte – Ausblick auf geplante DSGVO-Änderungen
FAQ
Häufige Fragen zu KI und Datenschutz
Ja. Die DSGVO verbietet KI-Tools nicht. Sobald personenbezogene Daten verarbeitet werden, brauchen Sie aber einen Business-Tarif mit Auftragsverarbeitungsvertrag, eine Grundlage für den Datentransfer und klare Regeln für Ihr Team. Für Aufgaben ganz ohne Personenbezug – etwa Werbetexte oder allgemeine Recherchen – ist der Einsatz unkritisch.
Nein. Das Abschalten des Trainings ist sinnvoll, ersetzt aber keinen Auftragsverarbeitungsvertrag. Privat-Tarife wie ChatGPT Plus oder Claude Pro haben in der Regel keinen AVV und sind deshalb für Kundendaten nicht geeignet.
Ja, wenn eine Grundlage nach Kapitel V DSGVO besteht – etwa die Zertifizierung des Anbieters nach dem EU-US Data Privacy Framework oder Standardvertragsklauseln im AVV. Weil gegen das Data Privacy Framework ein Verfahren beim EuGH läuft, sollte der Vertrag am besten beide Grundlagen enthalten.
Teilweise. OpenAI bietet Datenresidenz in Europa für ChatGPT Enterprise, Edu und die API an. Claude lässt sich über Amazon Bedrock oder Google Vertex AI in EU-Regionen nutzen; direkt bei Anthropic laufen die Dienste in den USA. Microsoft 365 Copilot verarbeitet grundsätzlich innerhalb der EU Data Boundary, mit einigen Ausnahmen.
Ja, wenn Sie personenbezogene Daten Ihrer Kunden oder Interessenten mit einem KI-Dienst verarbeiten. Nennen Sie den Anbieter als Empfänger, den Zweck und gegebenenfalls den Drittlandtransfer. Außerdem gehört der Einsatz in Ihr Verzeichnis von Verarbeitungstätigkeiten.
Ja, wenn der Assistent über ein gewerbliches Konto (Team, Enterprise oder API) läuft, keine echten Kundendaten im Projektordner liegen und Zugangsdaten geschützt sind. Arbeiten Sie im Auftrag eines Kunden, sollte dieser dem Einsatz des KI-Anbieters als Unterauftragsverarbeiter zugestimmt haben.
