Alles, was du in einen KI-Assistenten eintippst oder hochlädst, landet auf den Servern des Anbieters. Deshalb gilt die DSGVO, die Datenschutz-Grundverordnung, auch hier. Diese Seite zeigt dir, was nicht hineingehört, welche Regeln dein Team braucht und wo du die wichtigsten Einstellungen findest.
Was nicht in die KI gehört
Gesundheitsdaten
Gesundheitsdaten gehören zu den besonderen Kategorien nach Art. 9 DSGVO. Ihre Verarbeitung ist grundsätzlich verboten und nur mit einer Ausnahme erlaubt (DSK, Orientierungshilfe KI, Rn. 62). Das betrifft Praxen und Pflege besonders. Es betrifft aber auch den Handwerksbetrieb, der ein Attest oder eine Krankmeldung abtippen lässt.
Passwörter, Kontonummern und Finanzunterlagen
Zugangsdaten und Bankdaten haben in einem Chat nichts verloren. OpenAI warnt auf seiner Hilfeseite zu Aufgaben in ChatGPT davor, sie in Titel oder Anweisungen geteilter Aufgaben zu schreiben. Anthropic rät, der KI keine Ordner mit Finanzunterlagen, Zugangsdaten oder Personalakten freizugeben. Leg stattdessen einen eigenen Arbeitsordner an, in dem nur das liegt, was die KI sehen soll.
Bewerbungen zur automatischen Auswahl
Lass die KI keine Bewerbungen auswerten und danach selbst Einladungen oder Absagen verschicken. Die Datenschutzkonferenz nennt genau dieses Beispiel als Verstoß gegen Art. 22 DSGVO (DSK, Rn. 13). Art. 22 betrifft Entscheidungen mit rechtlicher oder ähnlich erheblicher Wirkung, die allein eine Maschine trifft. Es gibt enge Ausnahmen. Im Bewerbungsbeispiel sieht die Datenschutzkonferenz aber einen Verstoß.
Kundendaten ohne passenden Vertrag
Nutzt dein Betrieb einen KI-Dienst für eigene Zwecke, ist der Anbieter häufig ein Auftragsverarbeiter. Das heißt: Er verarbeitet Daten in deinem Auftrag. Dann braucht es einen Vertrag nach Art. 28 Abs. 3 DSGVO, kurz AVV (DSK, Rn. 32). Auf Englisch heißt dieser Vertrag DPA.
- OpenAI bietet diesen Vertrag laut eigener Seite für Business, Enterprise und die API an (Stand 08.01.2026).
- Bei Anthropic ist er laut Privacy Center für Team, Enterprise und die API automatisch Teil der Geschäftsbedingungen (Stand 16.03.2026).
- Für die Privattarife Free, Plus, Pro und Max gibt es bei keinem der beiden Anbieter einen solchen Vertrag.
- Die Geschäftstarife ChatGPT Business und Claude Team verlangen laut Hilfeseiten beider Anbieter mindestens zwei Plätze (Stand 28.09.2026).
So arbeitest du ohne echte Kundendaten, zum Beispiel beim Angebot für eine Terrasse: Statt „Frau Muster, Lindenweg 3, Tel. …“ schreibst du „Kundin A, Reihenhaus, Terrasse 25 Quadratmeter“. Den Namen setzt du erst im fertigen Angebot ein, außerhalb der KI.
Regeln fürs Team
Halte die Regeln kurz und schriftlich fest. Diese Punkte reichen für den Anfang:
- Erlaubte Werkzeuge festlegen. Schreib auf, welche KI-Assistenten im Betrieb genutzt werden dürfen. Frag vorher im Team nach, wer schon welche KI nutzt, offiziell wie inoffiziell. Mit dieser Bestandsaufnahme beginnt auch die KI-Richtlinie in 7 Schritten des Mittelstand-Digital Zentrums Berlin.
- Betriebskonten statt Privatkonten. Laut Datenschutzkonferenz soll der Arbeitgeber Geräte und Konten stellen. Beschäftigte sollen nicht mit privaten Konten arbeiten müssen (DSK, Rn. 41).
- Funktionsadresse statt Name. Das Konto läuft auf eine Adresse wie ki@betrieb.example und nicht auf den Namen einer Person (DSK, Rn. 42).
- Keine Kundendaten ohne Vertrag. Ohne AVV kommen keine Namen, Adressen oder Bankdaten in die KI. Ein AVV allein erlaubt das aber noch nicht: Du brauchst zusätzlich eine Rechtsgrundlage. Gesundheitsdaten bleiben draußen. Übe mit erfundenen Daten.
- Jemand prüft. Für jede Aufgabe ist klar, wer das Ergebnis prüft, bevor es rausgeht. Wie das geht, steht unter Ergebnisse prüfen.
- Nichts geht automatisch raus. Versenden, veröffentlichen, bestellen und bezahlen macht ein Mensch.
- Über Fehler reden. Sag deinem Team, dass KI Dinge erfindet. Laut EU-Kommission sollen auch Beschäftigte, die ChatGPT nur für Werbetexte oder Übersetzungen nutzen, über Risiken wie erfundene Angaben informiert werden (AI Literacy Q&A, Stand 27.07.2026).
Einstellungen im Konto
Die Datenschutzkonferenz rät, das Training und den Eingabeverlauf schon bei der Einrichtung abzuschalten (DSK, Rn. 24 und 43). Training heißt: Der Anbieter nutzt deine Eingaben, um seine KI weiterzuentwickeln. Die Einstellungen ändern sich oft. Prüf sie deshalb selbst in deinem Konto.
ChatGPT
Laut Hilfeseite von OpenAI (Stand 28.09.2026):
- Bei Diensten für Einzelpersonen können deine Inhalte zum Training genutzt werden. Abschalten kannst du das unter Einstellungen, Datenkontrollen, „Das Modell für alle verbessern“ oder im Privacy Portal von OpenAI.
- Temporäre Chats werden nicht zum Training genutzt, solange sie temporär bleiben.
- Wenn du eine Antwort mit Daumen hoch oder runter bewertest, kann der ganze Chat zum Training genutzt werden.
Claude
Laut Privacy Center von Anthropic (Stand 16.03.2026 und 01.07.2026):
- Bei Privatkunden werden Chats nur zum Training genutzt, wenn du zustimmst oder wenn ein Chat als Sicherheitsfall markiert wird.
- Inkognito-Chats werden nie zum Training genutzt.
- Gelöschte Chats sind nach 30 Tagen aus den Systemen des Anbieters entfernt.
- Wenn du dem Training zustimmst, bleiben Daten ohne Personenbezug bis zu 5 Jahre gespeichert.
Laut Hilfeseite von Anthropic (Stand 20.08.2026) können Admins im Team-Tarif eine Verbindung zu anderen Programmen auf reines Lesen beschränken. Eine solche Verbindung heißt Konnektor, etwa zu Mail, Kalender oder Ablage.
Andere Anbieter
Für Gemini, Copilot, Le Chat und andere Assistenten findest du die Schalter in den Datenschutz-Einstellungen deines Kontos. Such dort nach Training, Verlauf oder Aktivität und lies die Hilfeseite des Anbieters.
Was diese Seite nicht ist
Diese Seite ist keine Rechtsberatung. Sie gibt einen Überblick zum Stand 28.09.2026. Im Zweifel fragst du deinen Datenschutzbeauftragten oder eine Fachanwältin.
Zur EU-KI-Verordnung, kurz KI-VO: Ihr Art. 4 regelt die KI-Kompetenz, also das Wissen, das man für den Umgang mit KI braucht. Seit dem 27.07.2026 gilt er in der Fassung des sogenannten KI-Omnibus (EU-Kommission). Danach verlangt Art. 4 nur noch Maßnahmen, die die KI-Kompetenz des Personals unterstützen. Ein „ausreichendes“ Niveau wird nicht mehr verlangt. Das gilt für jeden Betrieb, der KI beruflich nutzt, auch wenn es nur ChatGPT ist (Bundesnetzagentur). Ein eigenes Bußgeld dafür gibt es in Deutschland derzeit nicht: Weder die Bußgeldregeln der KI-VO (Art. 99) noch § 15 des deutschen KI-Marktüberwachungsgesetzes (KI-MIG) nennen Art. 4. Das ist unsere Lesart des Gesetzestexts. Trotzdem können Behörden nach Angaben der EU-Kommission Maßnahmen ergreifen, bis hin zu Sanktionen. Die Bundesnetzagentur warnt außerdem, dass fehlende KI-Kompetenz als Verletzung der Sorgfaltspflicht gelten kann, besonders wenn ein Schaden entsteht.
Weiter geht es mit den ersten Schritten und den Arbeitsanweisungen.