Generative KI und CNIL: Was Unternehmen in Frankreich tun müssen

In vielen französischen Unternehmen sind ChatGPT, Copilot und Gemini ohne offizielle Ankündigung angekommen. Ein Vertriebler formuliert ein Angebot um, eine Juristin fasst einen Vertrag zusammen, ein Recruiter sortiert Lebensläufe. Die Zeitersparnis ist echt. Bleibt eine Frage: Was sagt die CNIL, wenn diese Tools personenbezogene Daten erhalten?

Die CNIL, die französische Datenschutzbehörde, hat sich bereits ausführlich zum Thema geäußert, und ein Teil ihrer Empfehlungen richtet sich direkt an Organisationen, die diese Tools täglich nutzen. Hier steht, was sie erwartet und wie sich das in konkrete Schritte übersetzen lässt.

Was die CNIL zur KI veröffentlicht hat

Die CNIL stellte 2023 einen Aktionsplan zur künstlichen Intelligenz vor und veröffentlichte danach eine Reihe von Praxisleitfäden zur Entwicklung von KI-Systemen. Im Juli 2025 schloss sie diese Arbeit mit neuen Empfehlungen ab, dazu zwei weitere Leitfäden (Datenannotation und sichere Entwicklung) und eine Prüfliste.

Für Unternehmen, die KI nur nutzen, ist der wichtigste Text vom 18. Juli 2024. An diesem Tag veröffentlichte die CNIL ihre Fragen und Antworten zur Nutzung eines generativen KI-Systems sowie erste Hinweise zum Einsatz. Sie beantworten die Frage, die sich jeder IT-Leiter und Datenschutzbeauftragte stellt: Dürfen Beschäftigte ChatGPT nutzen, und unter welchen Bedingungen?

Vom Bedarf ausgehen, nicht vom Tool

Der erste Rat der CNIL ist einfach: von einem konkreten Bedarf ausgehen. Einen KI-Assistenten einzuführen, nur um zu sehen, was passiert, ist kein konformer Ansatz. Man muss die Anwendungsfälle bestimmen, die Risiken jedes Falls abwägen und das Tool danach auswählen.

Das knüpft an den Grundsatz der Zweckbindung der DSGVO an. Ein Unternehmen muss wissen, warum es Daten verarbeitet. Will die Personalabteilung mit KI Stellenanzeigen schreiben, ist das ein Zweck. Will sie damit Bewerber einstufen, ist das ein anderer, deutlich sensiblerer Zweck, der eine eigene Prüfung verlangt.

Beschäftigte und personenbezogene Daten

Zur Nutzung durch Beschäftigte ist die CNIL deutlich. Die Organisation bleibt grundsätzlich für Fehlgebrauch durch ihr Personal verantwortlich. Sie empfiehlt daher, erlaubte und verbotene Nutzungen schriftlich festzulegen. Zu ihren Beispielen gehört, keine personenbezogenen Daten in das Tool einzugeben und ihm keine Entscheidungen zu überlassen.

Bei Diensten für Endverbraucher geht sie weiter. Personenbezogene Daten, Unternehmensdaten und vor allem Daten, die einer Geheimhaltungspflicht unterliegen, sollten dort nicht eingegeben werden. Außerdem rät sie, diese Dienste über eigene berufliche E-Mail-Adressen und nicht über private Konten zu nutzen.

• Nur Informationen eingeben, die man weitergeben darf.

• Freigegebene Prompt-Vorlagen anbieten, die sensible Daten vermeiden.

• Die Weiterverwendung der Daten durch den Anbieter und, wenn möglich, den Verlauf abschalten.

• Jede Antwort lesen und prüfen, bevor man sie weiterverwendet.

Diese Regeln werden oft ohne böse Absicht umgangen. Genau das ist das Problem der Schatten-KI, also der Tools, die außerhalb des vom Unternehmen gesetzten Rahmens genutzt werden.

Tool und Betriebsmodell wählen

Die CNIL fordert, Sicherheit und Robustheit jeder Lösung zu prüfen und ihre Dokumentation anzufordern. Für personenbezogene oder sensible Daten bevorzugt sie lokal betriebene Systeme. Läuft das Tool in der Cloud, braucht es einen Auftragsverarbeitungsvertrag nach Artikel 28 DSGVO und geeignete Garantien für Übermittlungen außerhalb der Europäischen Union.

Ein oft übersehener Punkt: Ein Unternehmen, das die KI an seine eigene Dokumentenbasis anbindet (RAG) oder sie mit personenbezogenen Daten feinabstimmt, wird für diese Verarbeitung verantwortlich. Für die Sicherheit verweist die CNIL auf die Empfehlungen der ANSSI, der französischen Cybersicherheitsbehörde, zu generativen KI-Systemen.

Die DSFA: Wann ist sie nötig?

Eine Datenschutz-Folgenabschätzung (DSFA) ist Pflicht, wenn eine Verarbeitung voraussichtlich ein hohes Risiko für Personen mit sich bringt. Die CNIL empfiehlt, den Datenschutzbeauftragten von Anfang an einzubinden und bei Bedarf eine DSFA durchzuführen. Sie hat dazu auch einen eigenen Leitfaden für KI-Systeme veröffentlicht.

Für eine Marketing-E-Mail ist eine DSFA selten nötig. Sie wird sehr wahrscheinlich, sobald KI Gesundheitsdaten, Personaldaten oder Daten von Kindern berührt oder Menschen bewerten soll. Die europäische KI-Verordnung ergänzt eigene Anforderungen für Hochrisiko-Anwendungen. Unsere Checkliste zu KI-VO und DSGVO Artikel 32 hilft bei der Bestandsaufnahme.

Governance: Richtlinie, Schulung, Kontrolle

Die CNIL empfiehlt eine Governance, die Datenschutzbeauftragten, CISO, IT-Leitung und Fachbereiche früh einbindet. Drei Handlungsfelder tauchen in ihren Texten immer wieder auf:

1. Eine interne Richtlinie, die erlaubte und verbotene Nutzungen auflistet, in einer Sprache, die alle verstehen.

2. Schulung der Nutzer zur Funktionsweise der Tools, ihren Grenzen und Risiken.

3. Regelmäßige Kontrollen, ob die Regeln eingehalten werden.

Der dritte Punkt ist der schwierigste. Eine Richtlinie und eine Schulung verhindern kein hastiges Kopieren und Einfügen am Freitagabend. Warum, erklären wir in unserem Artikel darüber, warum KI-Sicherheitsschulungen nicht ausreichen.

Umsetzung in der Praxis

Damit diese Empfehlungen greifen, braucht es eine Kontrolle genau dort, wo das Risiko entsteht: in dem Moment, in dem ein Mitarbeiter Text einfügt oder eine Datei in einen KI-Assistenten lädt. Das ist die Aufgabe einer KI-DLP-Lösung. Sie erkennt personenbezogene oder vertrauliche Daten vor dem Versand und anonymisiert sie, warnt den Nutzer oder blockiert, je nach gewählter Regel.

Diese Kontrolle hinterlässt auch einen Nachweis. Bei einem Audit oder einer Prüfung durch die CNIL kann das Unternehmen zeigen, dass seine Richtlinie nicht nur auf dem Papier steht. Die formatbewahrende Anonymisierung sorgt zudem für brauchbare Antworten, ohne echte Daten preiszugeben.

Das Wichtigste in Kürze

Die CNIL verlangt kein Verbot generativer KI. Sie verlangt einen methodischen Einsatz: ein klarer Bedarf, klar erlaubte Nutzungen, ein sorgfältig ausgewähltes Tool, eine DSFA, wenn das Risiko es erfordert, geschulte Beschäftigte und echte Kontrollen. Unternehmen, die diese Schritte dokumentieren, sind vorbereitet, wenn die Frage gestellt wird.

Möchten Sie sehen, wie ZeusLock diese Regeln direkt im Browser Ihrer Teams umsetzt? Demo anfragen.