ChatGPT im Unternehmen DSGVO-konform nutzen

1Einleitung

Der typische KI-Vorfall im Mittelstand sieht nicht spektakulär aus. Kein Hacker, kein Erpresserschreiben, kein großes Drama. Stattdessen kopiert jemand schnell einen Kundentext, einen Vertragsauszug oder eine technische Spezifikation in ein privates ChatGPT-Konto, weil das Angebot noch raus muss .

Genau das ist Shadow AI. Gut gemeint, oft produktiv, aber datenschutzrechtlich und organisatorisch schnell unsauber.

Ich sage es direkt: Das größte Risiko ist selten das offizielle KI-Projekt mit Lenkungskreis und PowerPoint. Das größere Risiko ist der hilfsbereite Mitarbeiter, der „nur mal eben“ Zeit sparen will. In meiner Arbeit mit KMU rund um Aachen sehe ich das ständig – besonders in Vertrieb, Einkauf, HR und Technik.

Die gute Nachricht: Du musst KI nicht verbieten. Du brauchst klare Leitplanken. Also erlaubte Tools, verbotene Daten, einen echten Freigabeweg und ein paar technische Kontrollen, die im Alltag funktionieren.

2Der typische Shadow-AI-Vorfall: gut gemeint, riskant umgesetzt

Stell dir folgenden Fall vor: Ein Vertriebsmitarbeiter hat Druck. Er nimmt Kundendaten aus dem CRM, kopiert ein Lastenheft oder einen Vertragsentwurf in sein privates ChatGPT-Plus-Konto und lässt sich daraus ein Angebot formulieren.

Das Problem ist nicht nur der Upload an sich. Das Problem ist, dass du als Unternehmen oft weder Vertrag noch Kontrolle noch Dokumentation dafür hast.

Laut AI Policy Desk gibt es für OpenAI einen DPA nur für API-Kunden, ChatGPT Team und ChatGPT Enterprise. Für ChatGPT Free und Plus ist die berufliche Nutzung privater Konten damit gerade nicht sauber als Auftragsverarbeitung abgedeckt.

Shadow AI ist dabei viel breiter als nur ChatGPT. Dazu gehören auch Claude in privaten Konten, Browser-Erweiterungen, Übersetzungstools, Meeting-Transkription, Schreibassistenten und Copilots ohne Freigabe. Laut Deloitte Österreich liegt der Hebel deshalb zuerst bei Sichtbarkeit, klaren Regeln und technischen Restriktionen.

3Was bedeutet DSGVO-konforme KI-Nutzung konkret?

Sobald in Prompts, Anhängen oder Antworten personenbezogene Daten vorkommen, greift die DSGVO. Das betrifft nicht nur offensichtliche Dinge wie Namen oder E-Mail-Adressen, sondern oft auch Kundenkommunikation, Bewerbungsunterlagen, Support-Tickets oder Vertragsinhalte.

Die Grundfragen sind immer dieselben: Welche Daten fließen? Wofür ist die Verarbeitung nötig? Auf welcher Rechtsgrundlage passiert das? Wer ist verantwortlich? Und welche Sicherheitsmaßnahmen gelten?

Nach Art. 6 DSGVO brauchst du eine Rechtsgrundlage. Nach Art. 13 und 14 DSGVO musst du Transparenz sicherstellen. Nach Art. 32 DSGVO brauchst du angemessene Sicherheit. Wenn der Anbieter als Auftragsverarbeiter handelt, kommt Art. 28 DSGVO dazu – also ein AVV beziehungsweise DPA.

Ein AVV ist kein nettes Extra, sondern das Pflichtdokument, wenn ein Dienstleister Daten in deinem Auftrag verarbeitet. Laut loskan.io muss darin unter anderem geregelt sein: Zweck und Umfang der Verarbeitung, Datenkategorien, technische und organisatorische Maßnahmen, Unterauftragsverarbeiter und Unterstützung bei Betroffenenrechten.

Wenn du besondere Kategorien personenbezogener Daten verarbeitest, etwa Gesundheitsdaten oder biometrische Daten, wird es noch heikler. Dann musst du zusätzlich Art. 9 DSGVO prüfen.

Und ja, das Bußgeldrisiko ist real. Datenschutzverstöße können nach Art. 83 DSGVO bis zu 4 % des weltweiten Jahresumsatzes kosten. Das ist keine Panikmache, sondern der gesetzliche Rahmen.

4ChatGPT, Claude und ihre Tarife im Datenschutz-Vergleich

Hier wird es praktisch. Nicht „ChatGPT“ oder „Claude“ als Marke ist entscheidend, sondern der konkrete Tarif. Genau an der Stelle machen viele Unternehmen den Denkfehler.

Persönliche Free- oder Consumer-Konten sind bequem. Für produktive Unternehmensnutzung mit Arbeitsdaten sind sie aber oft die schlechteste Wahl.

Laut AI Policy Desk und Sonomos ergibt sich dieses Bild:

Mein ehrlicher Blick darauf: ChatGPT Plus wird im Mittelstand erstaunlich oft wie eine Unternehmenslösung behandelt. Ist es aber nicht. Wenn du Kundendaten, Angebotsdaten, Bewerberdaten oder technische Unterlagen verarbeitest, brauchst du Business-Strukturen – nicht einen netten privaten Login.

Bei Claude ist interessant, dass laut Sonomos Consumer-, Business-, Enterprise- und API-Nutzung standardmäßig nicht zum Training genutzt werden. Das ist datenschutzrechtlich angenehm, ersetzt aber trotzdem keine Prüfung von Vertrag, Transfers und Governance.

5Woran du eine wirklich brauchbare KI-Lösung erkennst

Viele Firmen fragen zuerst nach dem besten Modell. Ich würde zuerst nach den Kontrollen fragen.

Eine brauchbare Unternehmenslösung hat idealerweise zentrale Benutzerverwaltung, Rollen, Audit-Logs, Retention-Einstellungen, saubere Abrechnung, geregelte Löschung, dokumentierte Unterauftragsverarbeiter und einen AVV. Wenn das fehlt, ist die Lösung vielleicht clever, aber nicht reif für echte Arbeitsdaten.

Für Claude Enterprise nennt Compound Law genau solche Governance-Funktionen als relevant: SCIM, Audit-Logs, Retention-Kontrollen und AVV-Prüfung. Das sind die Dinge, die im Alltag zählen – nicht nur die Qualität der Texte.

Genauso wichtig ist die Drittlandfrage. Laut HÄRTING Rechtsanwälte musst du bei Verarbeitungen außerhalb EU/EWR die Regeln der Art. 44 ff. DSGVO beachten. Bei nicht sicheren Drittstaaten kommen Transfer Impact Assessments und Standardvertragsklauseln ins Spiel.

6Die DSGVO-Checkliste vor dem ersten produktiven Einsatz

Bevor du KI produktiv freigibst, brauchst du keine 80-seitige Masterrichtlinie. Du brauchst eine belastbare Checkliste, die jedes neue Tool und jeden Use Case durchlaufen muss.

1. 1
   Use Case beschreiben

   Was genau soll die KI tun, wer nutzt sie und welche Daten fließen in Prompts, Anhänge oder Outputs?
2. 2
   Rechtsgrundlage festlegen

   Prüfe und dokumentiere, auf welcher Grundlage nach Art. 6 DSGVO die Verarbeitung erfolgt und ob Art. 9 DSGVO betroffen ist.
3. 3
   AVV und Rolle klären

   Prüfe, ob der Anbieter Auftragsverarbeiter ist und ob ein DPA/AVV mit Zweck, TOMs und Unterauftragsverarbeitern vorliegt.
4. 4
   Drittlandtransfer bewerten

   Prüfe Art. 44 ff. DSGVO, SCCs und bei Bedarf ein TIA für Transfers außerhalb EU/EWR.
5. 5
   DSFA prüfen

   Bei neuer Technologie, großem Umfang oder sensiblen Daten ist eine Datenschutz-Folgenabschätzung nach Art. 35 DSGVO oft naheliegend.
6. 6
   Technische Leitplanken setzen

   Rollen, Logging, Retention, Upload-Regeln, DLP und zentrale Konten festlegen, bevor Mitarbeitende loslegen.
7. 7
   Dokumentation und Schulung abschließen

   Verzeichnis, Richtlinie, Freigabe und kurze praxisnahe Schulung zusammenführen.

Laut Compound Law gehören mindestens diese Prüffelder dazu: Rechtsgrundlage, besondere Daten nach Art. 9, Transparenz, Auftragsverarbeitung, TOMs, Drittlandtransfer und Löschkonzept. Das ist kein Selbstzweck. Damit kannst du später erklären, warum ein Einsatz zulässig war.

7Shadow AI verhindern: Governance, die Mitarbeiter wirklich nutzen

Die meisten KI-Richtlinien scheitern nicht an der Juristerei. Sie scheitern daran, dass sie sich lesen wie ein Verbotsschild.

Eine gute Richtlinie klingt wie ein Arbeitswerkzeug. Kurz, konkret, verständlich. Mitarbeitende müssen sofort wissen: Welche Tools darf ich nutzen? Welche Daten niemals? Wen frage ich bei Unsicherheit? Was ist der schnelle, offizielle Weg?

Laut Möhrle Happ Luther gehören in eine praxistaugliche Governance drei Dinge: zulässige Tools und Zwecke, ein Freigabeprozess für neue Anwendungen und regelmäßige Reviews der Use Cases. Deloitte Österreich ergänzt völlig zu Recht technische Restriktionen und Schulungen.

Ich würde KI-Tools in drei Klassen einteilen:

1. Erlaubt: freigegebene Business- oder API-Umgebungen mit Vertrag und Kontrolle.

2. Eingeschränkt erlaubt: Tools nur für öffentliche oder anonymisierte Inhalte.

3. Verboten: private Accounts oder nicht geprüfte Dienste für Arbeitsdaten.

Dazu kommen Datenklassen. Öffentlich, intern, vertraulich, personenbezogen, Geschäftsgeheimnis. Das macht Entscheidungen für Mitarbeitende viel leichter .

8KI-Richtlinie für Mitarbeiter: die Regeln, die wirklich funktionieren

Eine wirksame Richtlinie braucht keine Juristensprache. Sie braucht klare Sätze.

Zum Beispiel so:

• Erlaubt sind nur freigegebene KI-Tools und Unternehmenskonten.

• Private ChatGPT-, Claude- oder andere KI-Accounts dürfen nicht für Arbeitsdaten genutzt werden.

• Keine Kundendaten, Bewerberdaten, Verträge, Angebote, Passwörter, Quellcodes, CAD-Zeichnungen, technischen Schutzinformationen oder Geschäftsgeheimnisse in nicht freigegebene Tools kopieren.

• Daten in Prompts immer minimieren und nach Möglichkeit anonymisieren.

• Keine vollständigen Dokumente hochladen, wenn ein Auszug oder eine abstrahierte Beschreibung reicht.

• KI-Ausgaben immer fachlich prüfen. Die Verantwortung bleibt beim Menschen .

• Quellen und Fakten verifizieren, besonders bei rechtlichen, technischen oder finanziellen Aussagen.

• Neue KI-Tools dürfen nur über den definierten Freigabeprozess eingeführt werden.

Das ist der Teil, bei dem ich als Berater oft gegen den Mainstream argumentiere. Viele Unternehmen basteln erst an der perfekten Konzernpolicy. Ich halte das für überschätzt. Für KMU bringt eine klare Einseiter-Regel mit guter Schulung meist mehr als eine schöne, aber ungenutzte PDF.

97-Schritte-Fahrplan für KMU: von Wildwuchs zu kontrollierter KI

Wenn du das Thema pragmatisch angehen willst, nimm diesen Fahrplan. So bekommst du Kontrolle, ohne die Produktivität abzuwürgen.

1. Ist-Aufnahme

Erfasse, welche KI-Tools schon genutzt werden. Über Workshops, kurze Bereichsabfragen und – wenn vorhanden – Browser-, Proxy- oder Cloud-Logs.

2. Use Cases priorisieren

Starte mit Niedrigrisiko-Anwendungen. Textentwürfe ohne Personenbezug, Strukturierung von allgemeinen Informationen, Brainstorming. Nicht zuerst mit HR, Gesundheitsdaten oder sensiblen Kundenvorgängen.

3. Anbieter und Tarif bewusst wählen

Free- und Plus-Varianten sind für Arbeitsdaten meist die falsche Abkürzung. Business-Tiers oder API-Modelle mit DPA/AVV, Admin-Funktionen und klaren Kontrollen sind die bessere Basis.

4. Datenschutzpaket bauen

Rechtsgrundlage, AVV, Unterauftragsverarbeiter, TOMs, Transferprüfung, DSFA-Check und Verzeichnis sauber dokumentieren.

5. Technische Leitplanken aktivieren

Admin-Konten, Rollen, Audit-Logs, Retention, DLP, Upload-Beschränkungen und zentrale Abrechnung einführen.

6. Mitarbeitende schulen

Nicht theoretisch, sondern an echten Prompts. Was darf ich eingeben, was nicht, und wie anonymisiere ich sinnvoll?

7. Regelmäßig prüfen

Tools ändern sich, Funktionen ändern sich, Datenflüsse ändern sich. Deshalb müssen auch Freigaben und Bewertungen regelmäßig aktualisiert werden.

Für KMU in Aachen, Eschweiler, Würselen, Düren und der Euregio ist das besonders wichtig, wenn mit Industriekunden gearbeitet wird. Wer mit CAD-Zeichnungen, Entwicklungsdaten, Lieferantendaten, Angeboten oder technischen Spezifikationen umgeht, hat schnell mehr als nur ein Datenschutzthema – nämlich auch Geheimnisschutz und Vertrauensfragen im B2B-Geschäft .

Laut CIVAC kommt außerdem die Pflicht zur KI-Kompetenz nach Art. 4 EU AI Act dazu. Das heißt übersetzt: Mitarbeitende müssen nicht nur dürfen oder nicht dürfen – sie müssen KI auch kompetent nutzen können.

10Häufige Fehler: Was KMU beim KI-Einsatz unterschätzen

Fehler Nummer eins: ChatGPT Plus als Unternehmenslösung behandeln. Das wirkt harmlos, ist aber organisatorisch oft Murks.

Fehler Nummer zwei: Zu glauben, lokale oder Open-Source-Modelle seien automatisch DSGVO-sicher. Laut Windweiss gilt die DSGVO auch lokal vollständig weiter. Zusätzlich kann die Herkunft der Trainingsdaten unklar sein.

Fehler Nummer drei: Nur Richtlinien schreiben, aber keine technischen Maßnahmen umsetzen. Ohne Logging, DLP, Sperren, zentrale Konten und Schulung bleibt die Policy ein Wunschzettel.

Fehler Nummer vier: Drittlandtransfer, Subprozessoren, Löschfristen und Betroffenenrechte erst anzusehen, nachdem schon Daten verarbeitet wurden. Dann rennst du dem Risiko nur noch hinterher.

Fehler Nummer fünf: Zu viel Angst vor KI und deshalb gar nichts freizugeben. Dann landet die Nutzung eben im Schatten. Das ist meistens unsicherer als ein kontrollierter offizieller Weg.

11Meine Einschätzung

KI im Unternehmen wird nicht an der Modellqualität scheitern. Sie scheitert an schlechter Governance oder an übertriebener Verbotspolitik.

Mein Rat ist deshalb klar: Mach es deinen Mitarbeitenden leicht, den richtigen Weg zu nehmen. Gib freigegebene Tools vor, trenne harmlose von sensiblen Use Cases, dokumentiere Datenschutz sauber und setze technische Leitplanken. Nicht alles verbieten. Aber auch nicht alles laufen lassen.

Wenn du das so angehst, bekommst du beides: Produktivität und Kontrolle. Genau das ist im Mittelstand der Punkt.