Algoritmeregister in den Niederlanden: Transparenz und KI in Gemeinden

In den Niederlanden kann eine Gemeinde, die einen Algorithmus nutzt, um Anträge zu sortieren, Auffälligkeiten zu erkennen oder Kontrollen zu planen, diesen öffentlich in einem nationalen Register beschreiben. Diese Form der Transparenz ist in Europa selten genug, um einen genaueren Blick zu verdienen, gerade jetzt, da generative KI in den Büros der Verwaltungen ankommt.

Dieser Beitrag zeigt, wie das Algoritmeregister funktioniert, was es über den verantwortungsvollen Einsatz von KI in Gemeinden verrät und warum Transparenz über Algorithmen nicht ausreicht, um die Daten zu schützen, die Mitarbeitende täglich in KI-Assistenten eingeben.

Ein öffentliches Register seit Dezember 2022

Die erste Version des Algorithmenregisters der niederländischen Verwaltung ging im Dezember 2022 unter algoritmes.overheid.nl online. Ziel ist es, öffentliche Algorithmen leichter auffindbar zu machen, zu erklären, wie sie funktionieren und wofür sie eingesetzt werden, und eine öffentliche Diskussion darüber zu ermöglichen. Das Register startete mit 109 Algorithmen und umfasste Mitte Februar 2024 bereits 291, wie die Fachpresse für Kommunalverwaltungen berichtete.

Anfangs war die Eintragung freiwillig. In einem Brief an das Parlament kündigte die Regierung im Dezember 2022 an, daraus eine gesetzliche Pflicht machen zu wollen. Die Autoriteit Persoonsgegevens (AP), die niederländische Datenschutzbehörde, koordiniert die Aufsicht über Algorithmen.

Was die Einträge der Gemeinden zeigen

Die Gemeinden gehören zu den aktivsten Beitragenden. Anfang 2024 meldete Amsterdam 40 Algorithmen, Utrecht 38, Den Haag 29 und Rotterdam 11, während rund vierzig weitere Gemeinden jeweils zwischen einem und fünf Einträge hatten. Vor allem zeigen diese Zahlen, dass Transparenz durch Vorbilder wächst, Gemeinde für Gemeinde, und dass viele Kommunen ihre Algorithmen mit großer Wirkung noch nicht veröffentlicht hatten.

Für Forschende oder Sicherheitsverantwortliche ist das Register eine wertvolle Quelle. Es zeigt, welche Arten automatisierter Verarbeitung Bürgerinnen und Bürger betreffen, welche Daten dabei genutzt werden und wer verantwortlich ist. Zugleich bietet es ein Dokumentationsmodell, das andere Organisationen, öffentliche wie private, übernehmen können.

Die Werkzeuge des niederländischen Rahmens

Rund um das Register hat die Verwaltung mehrere Werkzeuge für den verantwortungsvollen Einsatz von Algorithmen geschaffen:

• das Algoritmekader (Algorithmenrahmen), das die einzuhaltenden Normen und Maßnahmen bündelt und vom Innenministerium entwickelt wird;

• das IAMA (Impact Assessment Mensenrechten en Algoritmes), eine Folgenabschätzung für Grundrechte, die an Praxis und Regulierung angepasst wurde;

• die Datenschutz-Folgenabschätzung (DSFA), die die DSGVO für Verarbeitungen mit hohem Risiko verlangt.

Diese Werkzeuge haben eines gemeinsam: Sie zwingen dazu, schriftlich festzuhalten, warum ein System eingesetzt wird, mit welchen Daten und unter wessen Verantwortung. Genau diese Disziplin der Dokumentation fehlt in vielen Organisationen beim alltäglichen Einsatz generativer KI.

Die europäische KI-Verordnung fügt eine weitere Ebene hinzu: Behörden, die KI-Systeme mit hohem Risiko einsetzen, müssen diese in einer EU-Datenbank registrieren. Unsere Checkliste zu KI-Verordnung und Artikel 32 DSGVO erläutert diese Anforderungen im Detail.

Generative KI, der blinde Fleck des Registers

Das Register beschreibt Algorithmen, die eine Organisation einsetzt. Es sieht nicht, wenn ein einzelner Mitarbeiter einen KI-Assistenten nutzt, um einen Brief umzuformulieren, eine Akte zusammenzufassen oder einen Antrag zu übersetzen. Doch genau dort fließen personenbezogene Daten der Einwohner am leichtesten ab: Namen, Adressen, Bürgerservicenummern (BSN), familiäre oder soziale Verhältnisse.

Die niederländische Regierung hat dazu Stellung bezogen. In einem vorläufigen Standpunkt, der dem Parlament am 11. Dezember 2023 vorgelegt wurde, hieß es, nicht vertraglich eingebundene Tools für generative KI erfüllten in der Regel nicht nachweisbar die Vorgaben zu Datenschutz und Urheberrecht, und Organisationen der Zentralregierung sollten sie grundsätzlich nicht nutzen, wenn ein Rechtsverstoß droht. Für jeden Anwendungsfall sind eine DSFA und eine algorithmische Folgenabschätzung wie das IAMA erforderlich. Der Text richtet sich an die Zentralverwaltung; der niederländische Gemeindeverband VNG erklärte, dass Gemeinden wahrscheinlich vergleichbaren rechtlichen Risiken ausgesetzt sind.

Was Gemeinden konkret tun können

1. Bestand aufnehmen: welche KI-Assistenten Mitarbeitende tatsächlich nutzen, auch über private Konten.

2. Dokumentieren: freigegebene Nutzungen so beschreiben wie einen Algorithmus, mit Zweck, Daten und Verantwortlichen.

3. Eine DSFA durchführen: für jeden Anwendungsfall, der Daten von Einwohnern betrifft.

4. An der Quelle schützen: eine BSN, eine Adresse oder einen Namen vor dem Versand an die KI erkennen und durch einen fiktiven Wert ersetzen.

5. Nachweise aufbewahren: verhinderte Vorfälle protokollieren, was bei einer Prüfung durch die AP hilft.

Unser erster Beitrag zu den Niederlanden befasste sich mit Datenlecks durch KI-Chatbots, die der AP gemeldet wurden. Diese Vorfälle zeigen genau, was das Register nicht erfasst. Wie sie entstehen, erklären auch unsere Beiträge zur Anatomie eines KI-Datenlecks und zu den realen Kosten von Schatten-KI.

Zusammenfassung

Das Algoritmeregister macht die Niederlande zu einer nützlichen Fallstudie für jede Organisation, die ihre Algorithmen verständlich machen will. Doch Transparenz über eingesetzte Systeme muss mit einer Kontrolle der alltäglichen Nutzung generativer KI einhergehen, denn dort können Daten der Einwohner unbemerkt abfließen.

Für eine Gemeinde lautet die richtige Frage deshalb nicht nur „Welche Algorithmen veröffentlichen wir?“, sondern auch „Welche Daten geben unsere Mitarbeitenden jeden Tag an externe Tools weiter?“.

ZeusLock erkennt und anonymisiert personenbezogene Daten in Prompts und Dateien, bevor sie an KI-Assistenten gehen, und liefert ein Vorfallprotokoll für Ihre Folgenabschätzungen. Fordern Sie eine Demo für Ihre Organisation an.