DSGVO & KI: ChatGPT und KI-Tools datenschutzkonform im Unternehmen einsetzen

Stand: 5. Juni 2026

ChatGPT schreibt das Angebot, fasst das Protokoll zusammen, beantwortet die Support-Anfrage. In den meisten Unternehmen läuft das längst, oft ohne Freigabe, oft mit echten Kundendaten im Eingabefeld. Genau an dieser Stelle wird aus einem Produktivitäts-Tool ein Datenschutz-Thema. Denn sobald in einen KI-Dienst personenbezogene Daten fließen, gilt die Datenschutz-Grundverordnung. Vollständig, sofort und unabhängig davon, ob das Tool „nur" für interne Texte gedacht war.

Dieser Artikel klärt, was bei der KI-Nutzung datenschutzrechtlich wirklich zu beachten ist: wann die DSGVO überhaupt greift, welche Pflichten daraus folgen, was die Aufsichtsbehörden bisher entschieden haben, welche Tool-Variante geschäftstauglich ist und wie eine KI-Richtlinie aussieht, die im Alltag funktioniert. Kein Verbotsappell, keine Entwarnung. Der Reihe nach, mit den richtigen Begriffen.

Zwei Regelwerke, die oft verwechselt werden: DSGVO und EU AI Act

In der Diskussion um „KI und Recht" laufen zwei verschiedene Regelwerke durcheinander, und diese Verwechslung führt zu falschen Schlüssen. Es lohnt sich, sie sauber zu trennen.

Der EU AI Act (Verordnung (EU) 2024/1689) reguliert KI-Systeme nach Risikoklassen. Er fragt: Wie gefährlich ist diese Anwendung für Gesundheit, Sicherheit und Grundrechte? Im Mai 2026 hat sich die EU mit dem sogenannten Digital Omnibus darauf geeinigt, die Fristen für Hochrisiko-Systeme nach hinten zu verschieben, bei eigenständigen Systemen auf den 2. Dezember 2027, bei in Produkte eingebetteten Systemen auf den 2. August 2028 (die formale Verabschiedung stand Anfang Juni 2026 noch aus). Was dabei gern überlesen wird: Die Pflicht zur KI-Kompetenz (Artikel 4) gilt unverändert seit dem 2. Februar 2025. Der Bußgeldrahmen des AI Act gilt seit August 2025, die vollen Sanktionsbefugnisse der zuständigen Behörden greifen ab August 2026. Den ganzen Fristen-Fahrplan haben wir im Beitrag zum EU AI Act für den Mittelstand im Detail aufgeschlüsselt.

Die DSGVO dagegen ist seit 2018 in Kraft und kennt keine Schonfrist. Sie fragt nicht, wie riskant die KI ist, sondern ob personenbezogene Daten verarbeitet werden. Wenn ja, gilt sie sofort und vollständig. Das ist der entscheidende Punkt für die Praxis: Auch wenn dein KI-Einsatz nach dem AI Act unkritisch ist und keine der verschobenen Fristen dich betrifft, kann derselbe Einsatz datenschutzrechtlich heikel sein. Die beiden Verordnungen gelten nebeneinander, nicht alternativ. Der Rest dieses Artikels behandelt die DSGVO-Seite, weil sie die ist, die heute schon greift.

Wann der KI-Einsatz überhaupt unter die DSGVO fällt

Die DSGVO regelt die Verarbeitung personenbezogener Daten, also aller Informationen, die sich auf eine identifizierte oder identifizierbare natürliche Person beziehen. Ein Name, eine E-Mail-Adresse, eine Telefonnummer, eine Personalnummer, der Inhalt einer Kundenbeschwerde mit Bezug zu einer konkreten Person: alles personenbezogen. Sobald solche Daten in das Eingabefeld eines KI-Tools wandern, ist das eine Verarbeitung im Sinne der Verordnung.

Die Abgrenzung ist in der Praxis wichtiger, als sie klingt. Ein KI-Tool eine Marketing-Headline texten zu lassen, ohne jeden Personenbezug, ist datenschutzrechtlich unkritisch. Dieselbe KI eine eingegangene Bewerbung zusammenfassen oder ein Kundengespräch auswerten zu lassen, ist es nicht. Es kommt also nicht auf das Tool an, sondern auf das, was du hineingibst.

Hinzu kommt die Rollenfrage, die der AI Act ähnlich kennt, die DSGVO aber eigenständig regelt. Das Unternehmen, das entscheidet, zu welchem Zweck und mit welchen Mitteln Daten verarbeitet werden, ist Verantwortlicher (Art. 4 Nr. 7 DSGVO). Der Dienstleister, der die Daten weisungsgebunden im Auftrag verarbeitet, ist Auftragsverarbeiter. Wenn du ChatGPT im Unternehmen einsetzt, bist du der Verantwortliche, und OpenAI ist, im richtigen Vertragsmodell, dein Auftragsverarbeiter. Diese Konstellation ist nur sauber, wenn ein Vertrag zur Auftragsverarbeitung existiert. Genau daran scheitert die kostenlose Variante, dazu später mehr.

Die Verantwortlichkeit ist auch der Grund, warum das Thema Chefsache ist. Verstöße gegen die DSGVO sind mit einem Bußgeldrahmen von bis zu 20 Millionen Euro oder 4 Prozent des weltweiten Jahresumsatzes bewehrt, je nachdem, welcher Betrag höher ist. Anders als beim spektakulären Anbieter-Fall trifft dieses Risiko im Zweifel das eigene Unternehmen, und die Verantwortung für eine rechtmäßige Verarbeitung liegt bei der Geschäftsführung, nicht beim einzelnen Mitarbeiter, der ein Tool aufruft.

Die fünf Pflichten, die du beim KI-Einsatz erfüllen musst

Ob ein KI-Tool datenschutzkonform läuft, hängt nicht an einem einzelnen Häkchen, sondern an fünf Anforderungen, die zusammen erfüllt sein müssen. Sie sind keine Kür, sondern direkte Folge der DSGVO.

Erstens eine Rechtsgrundlage. Jede Verarbeitung personenbezogener Daten braucht eine Grundlage nach Art. 6 DSGVO, etwa die Erfüllung eines Vertrags, eine Einwilligung oder ein berechtigtes Interesse. Für den KI-Einsatz heißt das: Du musst begründen können, warum diese Daten ausgerechnet durch dieses Tool laufen. Das berechtigte Interesse (Art. 6 Abs. 1 lit. f) ist oft die naheliegende Grundlage, verlangt aber eine dokumentierte Abwägung gegen die Interessen der Betroffenen. Woran du merkst, dass es fehlt: Wenn niemand im Haus sagen kann, auf welche Grundlage sich die KI-Nutzung stützt, gibt es keine.

Zweitens ein Auftragsverarbeitungsvertrag (AVV). Sobald ein externer Dienst Daten in deinem Auftrag verarbeitet, schreibt Art. 28 DSGVO einen AVV vor. Ohne ihn ist die Verarbeitung schlicht unzulässig, egal wie gut der Dienst technisch abgesichert ist. OpenAI stellt einen solchen Vertrag (Data Processing Addendum) bereit, den du aktiv abschließen musst, allerdings nur für die Geschäftsprodukte, nicht für die kostenlosen Varianten.

Drittens die Frage des Trainings. Werden deine Eingaben verwendet, um das Modell weiterzutrainieren? Bei den Geschäftsprodukten von OpenAI ist das vertraglich ausgeschlossen, in der kostenlosen Version ist es standardmäßig erlaubt und muss aktiv abgeschaltet werden. Daten, die einmal ins Training geflossen sind, lassen sich praktisch nicht mehr zurückholen, und genau das ist datenschutzrechtlich das Problem.

Viertens Transparenz und Betroffenenrechte. Die Menschen, deren Daten du verarbeitest, müssen wissen, dass und wozu eine KI im Spiel ist (Art. 13/14), und sie haben Rechte auf Auskunft, Berichtigung und Löschung. Bei generativer KI ist die Löschung technisch anspruchsvoll, was die Auswahl des Tools und die Datensparsamkeit umso wichtiger macht. In der Praxis heißt das: lieber von vornherein keine Daten eingeben, die du später nicht mehr herausbekommst.

Fünftens der Drittlandtransfer. OpenAI ist ein US-Anbieter, die Daten verlassen also im Standardfall den EU-Raum, und dafür braucht es eine geeignete Transfergrundlage (in der Regel die Standardvertragsklauseln, ergänzt um das EU-US Data Privacy Framework). Entschärfen lässt sich das durch EU-Datenresidenz, die OpenAI für Enterprise-Kunden seit Februar 2025 anbietet, seit Januar 2026 zusätzlich als EU-Inferenz-Residenz, bei der auch die eigentliche Verarbeitung auf europäischen Servern stattfindet. Für viele Mittelständler ist genau das das Argument, bei der Tool-Auswahl auf den Serverstandort zu achten.

Wer in Bereiche mit voraussichtlich hohem Risiko vordringt, etwa eine KI-gestützte Bewerberauswahl, muss zusätzlich prüfen, ob eine Datenschutz-Folgenabschätzung (DSFA) nach Art. 35 DSGVO nötig ist. Sie ist eine vorgeschaltete Risikoanalyse der Verarbeitung, und die deutschen Aufsichtsbehörden gehen davon aus, dass sie beim KI-Einsatz vielfach erforderlich sein wird.

Was die Aufsichtsbehörden bisher entschieden haben

Datenschutz bei KI ist kein rechtsfreier Raum mehr, in dem jeder nach Gefühl entscheidet. Drei Quellen geben inzwischen eine belastbare Orientierung.

Der Europäische Datenschutzausschuss (EDSA) hat am 17. Dezember 2024 die Stellungnahme 28/2024 zu KI-Modellen veröffentlicht. Drei Aussagen daraus sind für die Praxis zentral. Ein mit personenbezogenen Daten trainiertes KI-Modell ist nicht automatisch anonym, das müssen die Aufsichtsbehörden im Einzelfall prüfen. Das berechtigte Interesse kann eine taugliche Rechtsgrundlage für Entwicklung und Einsatz solcher Modelle sein, aber nur nach einem sorgfältigen dreistufigen Test. Und wurde ein Modell auf unrechtmäßig verarbeiteten Daten trainiert, kann das auf den späteren Einsatz durchschlagen. Der EDSA stuft den Einsatz von KI damit als grundsätzlich zulässig ein, sofern die Datenschutzgrundsätze eingehalten werden.

Auf nationaler Ebene hat die Datenschutzkonferenz (DSK), das Gremium der deutschen Aufsichtsbehörden, bereits am 6. Mai 2024 die Orientierungshilfe „Künstliche Intelligenz und Datenschutz" vorgelegt. Auf rund 15 Seiten liefert sie konkrete Kriterien für Auswahl, Einführung und Nutzung von KI-Anwendungen, mit Schwerpunkt auf großen Sprachmodellen, und enthält eine praktische Checkliste. Wer wissen will, woran eine deutsche Aufsichtsbehörde einen KI-Einsatz misst, findet hier die Maßstäbe.

Wie ernst es die Behörden meinen, zeigt der Fall OpenAI in Italien. Die italienische Aufsichtsbehörde Garante verhängte Ende 2024 ein Bußgeld von 15 Millionen Euro gegen OpenAI. Die Begründung: fehlende Rechtsgrundlage für das Training mit Nutzerdaten, eine nicht ordnungsgemäß gemeldete Datenpanne aus dem März 2023 und Transparenzmängel. Das Verfahren betraf OpenAI als Anbieter, nicht einzelne Unternehmenskunden, ist aber ein deutliches Signal: Rechtsgrundlage und Transparenz sind keine Formalien, sondern bußgeldbewehrte Pflichten. Was bedeutet das nun für die Tool-Wahl im eigenen Haus?

Welche ChatGPT-Variante ist geschäftstauglich?

Die häufigste Fehlannahme im Mittelstand lautet: „Wir nutzen ChatGPT, das ist DSGVO-konform." ChatGPT ist aber nicht gleich ChatGPT. Die Datenschutz-Eignung hängt vollständig daran, welche Variante im Einsatz ist.

Die Linie verläuft also nicht zwischen kostenlos und bezahlt, sondern zwischen Privatkunden- und Geschäftsprodukten. Free, Plus und Pro sind für die Verarbeitung fremder personenbezogener Daten ungeeignet, weil kein AVV verfügbar ist. Auch wenn du in der Free-Version den Trainings-Opt-out aktivierst (zu finden unter Einstellungen, Datenkontrollen, „Das Modell für alle verbessern"), löst das nur einen von fünf Punkten. Der fehlende AVV bleibt.

Geschäftstauglich sind Team, Enterprise und die API. Hier stellt OpenAI einen AVV bereit, trainiert standardmäßig nicht auf den Eingaben und agiert als Auftragsverarbeiter. Enterprise ergänzt das um EU-Datenresidenz. Für ein mittelständisches Unternehmen, das ChatGPT ernsthaft im Betrieb einsetzen will, ist die Geschäftsversion damit kein Nice-to-have, sondern die Eintrittsvoraussetzung. Dieselbe Logik gilt sinngemäß für die Wettbewerber: Microsoft Copilot, Google Gemini und Anthropic Claude unterscheiden ebenfalls zwischen Consumer- und Business-Stufen mit unterschiedlichen Datenschutz-Zusagen. Welche Plattform am Ende passt, ist genau die Frage, die wir in der KI-Beratung mit Unternehmen vor der Einführung klären.

Schatten-KI: das eigentliche Risiko ist die ungeregelte Nutzung

Die größte Schwachstelle ist in den meisten Unternehmen nicht das Tool, sondern die fehlende Regel. „Schatten-KI" bezeichnet die Nutzung von KI-Diensten an der IT und an klaren Vorgaben vorbei: Der Mitarbeiter, der schnell die kostenlose ChatGPT-Version aufruft und einen vertraulichen Vertrag zur Prüfung hineinkopiert, handelt selten in böser Absicht. Er hat nur keine Vorgabe, die ihm sagt, was erlaubt ist.

Das prominenteste Beispiel ist der Fall Samsung aus dem April 2023: Innerhalb von rund drei Wochen gaben Mitarbeiter mehrfach vertrauliche Unternehmensdaten in ChatGPT ein, darunter internen Quellcode. Der Konzern reagierte im Mai mit einer internen Sperre. Die Lehre daraus ist nicht „KI verbieten", sondern „KI regeln". Ein Verbot treibt die Nutzung nur tiefer in den Schatten, eine klare Richtlinie holt sie ans Licht und macht sie steuerbar.

Genau deshalb ist die organisatorische Seite des Datenschutzes hier so wichtig wie die vertragliche. Ein perfekt konfigurierter Enterprise-Account nützt wenig, wenn die Hälfte der Belegschaft parallel die private Free-Version für Arbeitsinhalte nutzt. Datenschutzkonforme KI ist zu großen Teilen eine Frage der internen Organisation, und die beginnt mit einer verständlichen Richtlinie.

Eine KI-Richtlinie, die im Alltag funktioniert

Eine KI-Richtlinie muss kein 30-seitiges Dokument sein, das niemand liest. Sie muss kurz, klar und im Arbeitsalltag anwendbar sein. Entscheidend sind drei Dinge: Welche Tools sind freigegeben, welche Daten dürfen hinein, und wer ist Ansprechpartner. Das folgende Muster lässt sich auf den eigenen Betrieb anpassen.

KI-Nutzungsrichtlinie (Muster, Kurzfassung)

1. Freigegebene Tools. Für die Arbeit mit Unternehmens- oder Kundendaten ist ausschließlich [freigegebenes Tool, z. B. ChatGPT Enterprise] zu nutzen. Private oder kostenlose KI-Accounts sind für dienstliche Inhalte nicht zulässig.
2. Erlaubte Eingaben. Allgemeine, nicht personenbezogene Inhalte dürfen eingegeben werden. Personenbezogene Daten (Namen, Kontaktdaten, Bewerbungen, Kundenvorgänge) nur, wenn die Verarbeitung im freigegebenen Tool ausdrücklich gestattet ist.
3. Verbotene Eingaben. Niemals eingegeben werden: besondere Kategorien personenbezogener Daten (Gesundheit, Religion, Gewerkschaft u. a.), Zugangsdaten, Geschäftsgeheimnisse Dritter, vollständige Vertragswerke mit Personenbezug.
4. Ergebnisprüfung. KI-Ausgaben sind vor Verwendung auf Richtigkeit zu prüfen. Die Verantwortung für das Ergebnis bleibt beim Menschen.
5. Ansprechpartner. Fragen und Zweifelsfälle gehen an [Datenschutzbeauftragte/r oder benannte Stelle], bevor Daten eingegeben werden.

Diese fünf Punkte decken den Großteil der Alltagsfälle ab. Wichtig ist weniger die Vollständigkeit als die Verbindlichkeit: Die Richtlinie sollte arbeitsrechtlich eingebunden, einmal aktiv kommuniziert und bei der Einführung neuer Tools aktualisiert werden. Eine Richtlinie, die in einem Ordner verstaubt, ändert kein Verhalten.

Checkliste: bevor ein KI-Tool ins Unternehmen kommt

Die Richtlinie regelt den laufenden Einsatz, die folgende Checkliste den Einkauf: Sie ist der strukturierte Durchgang, bevor ein neues KI-Tool überhaupt eingeführt wird. Die Prüfpunkte fassen diesen Artikel zusammen und orientieren sich an den Kriterien, die auch die DSK-Orientierungshilfe nennt.

• Personenbezug geklärt? Ist definiert, ob und welche personenbezogenen Daten in das Tool gelangen?
• Rechtsgrundlage benannt? Steht fest, auf welche Grundlage nach Art. 6 DSGVO die Verarbeitung gestützt wird, inklusive Abwägung beim berechtigten Interesse?
• AVV abgeschlossen? Liegt ein Auftragsverarbeitungsvertrag mit dem Anbieter vor (nur bei den Geschäftsprodukten verfügbar)?
• Training ausgeschlossen? Ist vertraglich oder per Einstellung sichergestellt, dass Eingaben nicht zum Modelltraining verwendet werden?
• Drittlandtransfer geregelt? Gibt es eine geeignete Grundlage, idealerweise EU-Datenresidenz?
• Transparenz hergestellt? Sind Betroffene über den KI-Einsatz informiert, und sind ihre Rechte umsetzbar?
• Richtlinie vorhanden? Gibt es eine kommunizierte KI-Nutzungsrichtlinie und benannte Ansprechpartner?
• Schulung erfolgt? Sind die Mitarbeitenden in KI-Kompetenz geschult (Pflicht nach Art. 4 AI Act)?
• DSFA geprüft? Bei voraussichtlich hohem Risiko: ist eine Datenschutz-Folgenabschätzung nach Art. 35 DSGVO durchgeführt?

Wer diese Punkte vor dem Rollout abarbeitet, vermeidet die typischen Lücken. Bei sensiblen Einsatzszenarien, etwa im Personalbereich, ist die Frage nach der DSFA dabei keine Formsache, sondern oft der erste Prüfschritt.

KI-Kompetenz ist Pflicht, nicht Kür

Ein Punkt, der in der Datenschutz-Diskussion oft untergeht, kommt aus dem AI Act, ist aber praktisch eng mit der DSGVO verzahnt: die Pflicht zur KI-Kompetenz nach Artikel 4. Sie gilt seit dem 2. Februar 2025 und verlangt, dass Personen, die KI-Systeme betreiben oder nutzen, über ein ausreichendes Maß an KI-Kompetenz verfügen. Übersetzt in den Alltag heißt das: Wer ChatGPT im Job nutzt, soll verstehen, was er tut, was das Tool kann und wo seine Grenzen liegen.

Diese Pflicht ist kein bürokratischer Selbstzweck. Sie ist die personelle Voraussetzung dafür, dass die Datenschutz-Anforderungen überhaupt eingehalten werden. Eine Belegschaft, die weiß, warum keine Bewerbungsunterlagen in die kostenlose KI-Version gehören, braucht weniger Kontrolle und produziert weniger Schatten-KI. Genau hier setzt strukturierte Befähigung an, von der Tool-Auswahl über die Richtlinie bis zur Schulung der Teams in KI-Kompetenz, die die Pflicht aus Artikel 4 erfüllbar macht. Datenschutzkonforme KI ist am Ende kein Zustand, den man einmal herstellt, sondern eine Kombination aus dem richtigen Vertrag, dem richtigen Tool und Menschen, die wissen, was sie eingeben dürfen.

KI im Unternehmen und Datenschutz schließen sich nicht aus. Sie verlangen nur, dass die Reihenfolge stimmt: erst die Grundlagen klären, dann die Tools ausrollen. Wer ChatGPT und Co. in der Geschäftsvariante einsetzt, einen AVV abschließt, das Training ausschließt, eine klare Richtlinie aufstellt und seine Leute schult, nutzt KI nicht trotz, sondern im Einklang mit der DSGVO.

Dieser Artikel ist eine allgemeine Einordnung und ersetzt keine Rechtsberatung im Einzelfall.