Generative KI in französischen Kliniken: Schweigepflicht, HDS und CNIL

Auf einer Krankenhausstation ist die Versuchung allgegenwärtig. Ein Befund soll umformuliert, ein Entlassbrief verfasst, ein Protokoll für den Nachtdienst zusammengefasst werden: Ein Assistent für generative KI erledigt das in Sekunden. Viele Pflegekräfte, Arztsekretärinnen und Stationsleitungen haben es bereits ausprobiert, oft über ein privates Konto.

Das Problem ist, was mit der Anfrage mitgeschickt wird. Ein Name, ein Geburtsdatum, eine Diagnose, eine Zimmernummer. In Frankreich unterliegen diese Informationen zugleich der ärztlichen Schweigepflicht, der DSGVO und den Regeln für das Hosting von Gesundheitsdaten. Darauf sollten Krankenhäuser, Kliniken und Gesundheitszentren achten.

Die Schweigepflicht endet nicht am Browserfenster

Artikel L.1110-4 des französischen Gesetzbuchs über die öffentliche Gesundheit (Code de la santé publique) garantiert jedem Patienten den Schutz seiner Privatsphäre und die Vertraulichkeit der ihn betreffenden Informationen. Diese Pflicht gilt für alle Fachkräfte im Gesundheitswesen, nicht nur für Ärzte. Ein Verstoß wird nach Artikel 226-13 des Strafgesetzbuchs mit einem Jahr Freiheitsstrafe und 15.000 Euro Geldstrafe geahndet.

Wer eine Patientenakte in einen öffentlichen Chatbot kopiert, gibt diese Informationen an einen Dritten weiter, der nicht zum Behandlungsteam gehört. Die Absicht ist gut, Zeit sparen, doch der Vorgang bleibt eine Offenlegung.

HDS: Wo landen die Daten, die man in einen Prompt kopiert?

Artikel L.1111-8 desselben Gesetzbuchs verlangt, dass jeder, der Gesundheitsdaten im Auftrag einer Einrichtung oder eines Behandelnden hostet, eine HDS-Zertifizierung (hébergeur de données de santé, Hoster von Gesundheitsdaten) besitzt. Der Anforderungskatalog wurde 2024 überarbeitet. Er gilt seit November 2024 für neue Zertifizierungen, bereits zertifizierte Anbieter mussten ihn bis zum 16. Mai 2026 umsetzen.

Der neue Katalog verlangt unter anderem, dass die Daten im Europäischen Wirtschaftsraum gehostet werden und dass Anbieter ihre Kunden über mögliche Zugriffe aus Drittländern informieren. Kopiert eine Mitarbeiterin einen Befund in ein KI-Tool, werden diese Daten auf den Servern des Anbieters verarbeitet und teilweise gespeichert. Nichts garantiert, dass dieser Anbieter HDS-zertifiziert ist oder dass die Daten in Europa bleiben. Die Einrichtung muss daher jedes Tool prüfen, bevor es mit echten Daten genutzt wird. Die Standortfrage behandeln wir in unserem Beitrag über souveräne KI für europäische CISOs.

Was CNIL und HAS sagen

Für die CNIL, die französische Datenschutzbehörde, sind Gesundheitsdaten besondere Kategorien personenbezogener Daten nach Artikel 9 DSGVO: Ihre Verarbeitung ist bis auf festgelegte Ausnahmen verboten und erfordert verstärkte Sicherheitsmaßnahmen. Die allgemeinen Pflichten von Unternehmen haben wir in unserem ersten Beitrag über generative KI und die CNIL dargestellt. Im Krankenhaus liegt die Latte höher: Datenschutz-Folgenabschätzung, Datenminimierung, Nachverfolgbarkeit der Zugriffe.

Die Haute Autorité de santé (HAS), die nationale französische Gesundheitsbehörde, veröffentlichte am 30. Oktober 2025 einen Leitfaden mit dem Titel Premières clefs d'usage de l'IA générative en santé (erste Schlüssel für den Einsatz generativer KI im Gesundheitswesen). Er richtet sich an Fachkräfte aus dem Gesundheits-, Sozial- und Pflegebereich und fasst den Ansatz in vier Worten zusammen: lernen, prüfen, bewerten, kommunizieren. Der Leitfaden betont die Kenntnis der Vertraulichkeitsregeln und zählt das Teilen vertraulicher Informationen zu den beobachteten schlechten Praktiken.

Die häufigsten Risikosituationen

Datenabflüsse entstehen fast nie aus böser Absicht. Sie entstehen bei gewöhnlichen Aufgaben, die sich täglich wiederholen:

• einen OP-Bericht oder einen Brief an den Hausarzt umformulieren;

• Entlassungshinweise für einen fremdsprachigen Patienten übersetzen;

• eine Akte vor einer interdisziplinären Fallbesprechung zusammenfassen;

• einen Tabellenexport mit Namen, Sozialversicherungsnummern oder Laborwerten auswerten;

• eine Antwort auf eine Beschwerde verfassen, die den Behandlungsverlauf wiedergibt.

In jedem Fall enthält der kopierte Text direkte oder indirekte Identifikatoren. Unser Beitrag zur Anatomie eines KI-Datenlecks zeigt, wie ein einfaches Kopieren und Einfügen genügt.

Verbieten oder steuern?

Alle KI-Tools zu sperren ist verlockend, aber selten durchzuhalten. Die Teams stehen unter Zeitdruck, und ein Verbot drängt die Nutzung auf private Smartphones, außerhalb jeder Sichtbarkeit. Realistischer ist eine Kombination aus drei Elementen:

1. Eine Liste freigegebener Tools, ausgewählt nach Prüfung von Hosting, Vertrag und den Bedingungen zur Weiterverwendung der Daten.

2. Eine klare Regel: keine identifizierenden Patientendaten in einem nicht freigegebenen Tool, auch nicht für eine harmlose Aufgabe.

3. Eine technische Kontrolle am Arbeitsplatz, die Gesundheitsdaten vor dem Versand erkennt und ersetzt oder die Anfrage blockiert.

Der dritte Punkt macht den Unterschied. Eine schriftliche Regel schützt keinen übermüdeten Assistenzarzt um vier Uhr morgens. Ein Tool, das Namen und Sozialversicherungsnummer automatisch durch fiktive Werte ersetzt und dabei die Struktur des Textes erhält, erlaubt weiterzuarbeiten, ohne den Patienten zu gefährden. Das ist das Prinzip der formatbewahrenden Anonymisierung.

Nachweise für Prüfungen sichern

Bei einer Kontrolle durch die CNIL, einem Zertifizierungsaudit oder einem Vorfall muss die Einrichtung zeigen können, was sie umgesetzt hat. Ein Verzeichnis der freigegebenen Tools, eine unterschriebene Nutzungsrichtlinie, Vorfallprotokolle, die festhalten, welche Art von Daten erkannt und welche Maßnahme ergriffen wurde. Diese Nachweise zählen ebenso viel wie die Maßnahmen selbst.

Kurz gesagt

Ärztliche Schweigepflicht, DSGVO und HDS-Zertifizierung gelten in vollem Umfang für Assistenten mit generativer KI. Gesundheitseinrichtungen müssen nicht zwischen Produktivität und Vertraulichkeit wählen: Sie sollten ihre Tools auswählen, eine einfache Regel festlegen und eine Kontrolle genau dort einbauen, wo Daten den Arbeitsplatz verlassen.

ZeusLock erkennt und anonymisiert Gesundheitsdaten in Prompts und Dateien, bevor sie ChatGPT, Copilot oder Gemini erreichen, und protokolliert jeden Vorfall. Fordern Sie eine Demo für Gesundheitseinrichtungen an.