Dürfen wir ChatGPT im Unternehmen nutzen? Was wirklich verlangt wird
„Wir würden ja gerne, aber der Datenschutz.“ Dieser Satz beendet in deutschen Unternehmen mehr KI-Projekte als jede technische Hürde.
Meistens steckt dahinter keine geprüfte Rechtslage, sondern Unsicherheit. Die ist berechtigt — nur führt sie zur falschen Frage. Sie lautet nicht ob man KI einsetzen darf, sondern unter welchen Bedingungen. Und die sind erstaunlich konkret.
Der Unterschied, an dem alles hängt
Entscheidend ist, welche Daten in das Modell gehen.
Wer eine Marketing-Idee formulieren lässt, verarbeitet keine personenbezogenen Daten — dann greift die DSGVO an dieser Stelle gar nicht. Wer eine Kundenmail zur Beantwortung hineinkopiert, verarbeitet welche. Zwischen diesen beiden Fällen liegt der gesamte Aufwand.
Deshalb ist der erste Schritt keine Rechtsprüfung, sondern eine Bestandsaufnahme: Welche Aufgaben sollen erledigt werden, und welche Daten brauchen sie? Sehr häufig stellt sich heraus, dass die wertvollsten Anwendungen ohne personenbezogene Daten auskommen.
Vier Dinge, die tatsächlich verlangt werden
1. Ein Auftragsverarbeitungsvertrag
Sobald personenbezogene Daten an einen Dienstleister gehen, verlangt Art. 28 DSGVO einen Vertrag über die Auftragsverarbeitung. Die großen Anbieter stellen ihn bereit — er muss aber abgeschlossen werden, und zwar über den passenden Vertragsweg. Ein privates Konto genügt dafür nicht.
Das ist der häufigste Fehler in der Praxis: Mitarbeitende nutzen ihren persönlichen Zugang für dienstliche Aufgaben. Rechtlich ist das etwas völlig anderes als ein Unternehmenskonto mit AVV — und es passiert meist deshalb, weil es keinen offiziellen Weg gibt.
2. Klarheit über den Datenstandort
Für Übermittlungen in die USA gibt es seit 2023 das EU-US Data Privacy Framework. Anbieter, die dort zertifiziert sind, gelten als angemessenes Datenschutzniveau. Prüfbar ist das öffentlich in der Zertifizierungsliste des US-Handelsministeriums.
Wer das umgehen will, wählt europäisches Hosting. Das ist kein juristischer Zwang, aber es verkürzt die Prüfung erheblich — und es ist ein Argument, das im Vertrieb zieht.
3. Trainingsdaten-Opt-out
Standardmäßig nutzen manche Anbieter Eingaben zur Modellverbesserung. In den Geschäftstarifen ist das in der Regel abgeschaltet, in den kostenlosen Varianten oft nicht. Das ist eine Einstellung, kein Naturgesetz — sie gehört geprüft und dokumentiert, bevor jemand loslegt.
4. Eine Regelung, die Mitarbeitende auch lesen
Eine KI-Richtlinie muss nicht lang sein. Sie muss drei Fragen beantworten: Welche Werkzeuge sind freigegeben? Welche Daten dürfen hinein? Wer entscheidet im Zweifel?
Ohne diese Regelung passiert nicht etwa nichts — es passiert dasselbe wie vorher, nur unsichtbar. Schatten-KI ist das eigentliche Datenschutzrisiko, nicht der offizielle Einsatz.
Der AI Act: was schon gilt
Die KI-Verordnung der EU ist seit August 2024 in Kraft und wird gestaffelt anwendbar. Zwei Punkte sind für normale Unternehmen bereits relevant:
| Seit | Was gilt |
|---|---|
| Februar 2025 | Verbotene Praktiken (u. a. Social Scoring, bestimmte Emotionserkennung am Arbeitsplatz) |
| Februar 2025 | KI-Kompetenz: Wer KI-Systeme betreibt, muss für ausreichende Schulung der damit befassten Personen sorgen |
| August 2025 | Pflichten für Anbieter allgemeiner KI-Modelle |
Die Kompetenzpflicht wird regelmäßig übersehen. Sie richtet sich auch an Betreiber, also an ganz normale Unternehmen, die ein Werkzeug einsetzen. Verlangt wird keine Zertifizierung — aber ein nachvollziehbarer Nachweis, dass die Leute wissen, was sie tun.
Die weitreichenden Pflichten für Hochrisiko-Systeme greifen später und betreffen die meisten Anwendungen im Mittelstand nicht. Wer Texte entwirft, Angebote zusammenstellt oder Termine sortiert, ist davon regelmäßig nicht erfasst.
Was in der Praxis den Ausschlag gibt
Nach unserer Erfahrung scheitern KI-Projekte selten am Recht. Sie scheitern daran, dass niemand die Bestandsaufnahme macht — und dann jede Frage grundsätzlich wird.
Ein pragmatischer Weg:
- Anwendungsfälle sortieren nach „mit“ und „ohne“ personenbezogene Daten. Mit den Fällen ohne beginnen — sie liefern früh Ergebnisse und brauchen kaum Prüfung.
- Einen offiziellen Zugang schaffen. Solange es keinen gibt, entstehen private. Ein Geschäftstarif mit AVV und abgeschaltetem Training kostet weniger als eine Woche Diskussion.
- Zwei Seiten Regelung schreiben, die jemand tatsächlich liest.
- Schulung dokumentieren — das erfüllt die Kompetenzpflicht und verbessert die Ergebnisse ohnehin. Die meisten schlechten KI-Ergebnisse kommen von schlechten Eingaben, nicht von schlechten Modellen.
- Erst danach über Hochrisiko und Zertifizierung reden, falls es überhaupt einschlägig ist.
Kurz zusammengefasst
- Die Frage ist nicht ob, sondern mit welchen Daten.
- Personenbezogene Daten brauchen einen AVV nach Art. 28 DSGVO — über ein Unternehmenskonto, nicht über private Zugänge.
- US-Anbieter sind über das Data Privacy Framework handhabbar; EU-Hosting verkürzt die Prüfung.
- Trainingsdaten-Opt-out ist eine Einstellung, die geprüft gehört.
- Der AI Act verlangt seit Februar 2025 bereits KI-Kompetenz von Betreibern — das wird oft übersehen.
- Schatten-KI ist das größere Risiko als der geregelte Einsatz.
Wenn Sie wissen möchten, welche Ihrer Anwendungsfälle überhaupt personenbezogene Daten berühren, sehen wir uns das im Erstgespräch an — meist ist die Liste kürzer als befürchtet.
Weiterführend: KI-Agentur für den Mittelstand · KI-Trends 2026 · unsere Arbeitsweise unter KI-Beratung.
Dieser Beitrag ist keine Rechtsberatung. Er fasst zusammen, was uns in Projekten regelmäßig begegnet. Für die verbindliche Bewertung Ihres Falls gehört ein Fachanwalt oder Ihr Datenschutzbeauftragter dazu.