Datenlecks durch KI-Chatbots in den Niederlanden: Lehren der AP

In den Niederlanden sind Datenlecks durch KI keine Theorie mehr. Die Autoriteit Persoonsgegevens (AP), die niederländische Datenschutzbehörde, erhält Meldungen über Datenpannen, die von Beschäftigten verursacht wurden, die personenbezogene Daten in Chatbots wie ChatGPT eingegeben haben. Eine Hausarztpraxis, ein Telekommunikationsanbieter und später eine große Stadtverwaltung waren betroffen.

Diese Fälle sind wertvoll, weil sie dokumentiert sind. Sie zeigen, wie ein Leck entsteht, warum es oft spät entdeckt wird und was das Gesetz danach verlangt. Hier steht, was man daraus lernen kann und wie man vermeidet, in dieselbe Lage zu geraten.

Die Warnung der AP im August 2024

Im August 2024 sprach die AP eine deutliche Warnung aus: Sie hatte mehrere Meldungen über Datenpannen erhalten, weil Beschäftigte personenbezogene Daten, etwa von Patienten oder Kunden, in einen KI-Chatbot eingegeben hatten. Nach Ansicht der Behörde kann das dem Unternehmen hinter dem Chatbot unbefugten Zugang zu diesen Daten verschaffen.

Zwei Beispiele wurden genannt:

• In einer Hausarztpraxis gab ein Mitarbeiter medizinische Daten von Patienten in einen Chatbot ein, entgegen den internen Absprachen.

• In einem Telekommunikationsunternehmen gab ein Mitarbeiter eine Datei ein, die unter anderem Kundenadressen enthielt.

Die AP weist darauf hin, dass die meisten Anbieter die eingegebenen Daten speichern, oft auf eigenen Servern, ohne dass Nutzer oder Betroffene wissen, was damit geschieht.

Eindhoven: ein Leck, gemessen über 30 Tage

Im Dezember 2025 wurde der Fall der Stadt Eindhoven öffentlich. Eine interne Stichprobe für den Zeitraum vom 23. September bis 23. Oktober 2025 zeigte, dass Mitarbeitende personenbezogene Daten von Einwohnern und Kollegen auf öffentliche KI-Websites wie ChatGPT hochgeladen hatten: Unterlagen aus der Jugendhilfe, interne Berichte und Lebensläufe, oft von schutzbedürftigen Menschen.

Die Stadt meldete den Vorfall am 23. Oktober der AP. Sie sperrte den Zugang zu öffentlichen KI-Websites, stellte ein internes Tool in einer gesicherten Umgebung bereit, bat OpenAI um Löschung der Dateien und überwachte den ausgehenden Datenverkehr strenger. Ein Punkt fällt auf: Da die Dateien nach 30 Tagen verschwunden waren, konnte die Stadt weder das volle Ausmaß des Lecks bestimmen noch die betroffenen Einwohner informieren.

Laut niederländischer Wirtschaftspresse erhielt die AP in den Jahren 2024 und 2025 Dutzende solcher Meldungen, mit steigender Tendenz.

Warum es rechtlich eine Datenpanne ist

Die Haltung der AP ist präzise. Nutzt ein Mitarbeiter einen Chatbot auf eigene Faust, entgegen den Regeln des Arbeitgebers, und gibt personenbezogene Daten ein, liegt eine Datenpanne vor. Erlaubt der Arbeitgeber die Nutzung, ist es im engeren Sinn keine Panne, doch die AP betont, dass eine solche Verarbeitung oft trotzdem nicht rechtmäßig ist. Organisationen müssen beide Situationen verhindern.

Weder ein Verbot auf dem Papier noch eine Erlaubnis ohne Rahmen schützt also das Unternehmen. Wie das abläuft, zeigen wir in unserer Anatomie eines KI-Datenlecks.

Die Meldepflicht

Wie überall in der Europäischen Union verlangt die DSGVO, eine Datenpanne innerhalb von 72 Stunden nach Bekanntwerden der Behörde zu melden, es sei denn, sie führt voraussichtlich nicht zu einem Risiko. Für Lecks über einen Chatbot stellt die AP klar, dass eine Meldung nötig ist und die Information der Betroffenen in vielen Fällen Pflicht ist.

Der Fall Eindhoven zeigt die praktische Schwierigkeit: Um korrekt zu melden, muss man wissen, welche Daten wann an welchen Dienst gegangen sind. Ohne Protokoll der Übermittlungen an KI arbeitet die Organisation im Blindflug. Fällt sie unter NIS2, muss sie diese Meldung zudem mit ihren Cyberpflichten abstimmen, wie wir in unserem Artikel über NIS2 und KI-Datenverarbeitung erklären.

Was die AP empfiehlt und was fehlt

Die AP rät Organisationen:

1. mit den Beschäftigten klar zu vereinbaren, ob Chatbots genutzt werden dürfen oder nicht;

2. bei erlaubter Nutzung festzulegen, welche Daten eingegeben werden dürfen und welche nicht;

3. eine Vereinbarung mit dem Anbieter zu prüfen, damit eingegebene Daten nicht gespeichert werden.

Diese Schritte sind nötig, hängen aber von der Disziplin jedes Einzelnen ab. Und die bei der AP gemeldeten Fälle betreffen gerade Beschäftigte, die gegen die Regeln gehandelt haben. Warum das so ist, erklären wir in unserem Artikel darüber, warum KI-Sicherheitsschulungen nicht ausreichen.

Prävention in der Praxis

Alle KI-Websites zu sperren, wie es Eindhoven getan hat, stoppt das Leck, aber auch die sinnvolle Nutzung. Ein feinerer Ansatz setzt eine Kontrolle genau in dem Moment, in dem Text oder eine Datei zum Assistenten geht:

• Erkennung personenbezogener und sensibler Daten in Prompts und Dateien;

• automatische Anonymisierung, Warnung oder Sperre je nach Datentyp;

• ein Protokoll mit Zeitstempel für jeden Vorfall, das bei der schnellen Entscheidung über eine Meldung hilft.

Genau das leistet eine KI-DLP-Lösung. Sie erfasst auch die Schatten-KI, also die Nutzung, die die IT nie zu sehen bekommt.

Das Wichtigste in Kürze

Die Niederlande bieten eine der wenigen dokumentierten Erfahrungen mit Datenlecks über Chatbots. Die AP hat echte Meldungen erhalten, von der Hausarztpraxis bis zur Stadtverwaltung. Personenbezogene Daten entgegen internen Regeln in einen Chatbot einzugeben, ist eine Datenpanne mit Meldepflicht. Die beste Abwehr verbindet klare Regeln mit einer technischen Kontrolle, die vor dem Versand greift und einen Nachweis hinterlässt.

Möchten Sie sehen, wie ZeusLock diese Lecks stoppt, bevor daraus eine Meldung an die AP wird? Demo anfragen.