Australien: wann ein KI-Prompt zur meldepflichtigen Datenpanne wird

An einem Montagmorgen kopiert eine Personalleiterin in Melbourne eine Tabelle in einen öffentlichen KI-Assistenten, um eine Übersicht zu erstellen: Namen, Gehälter, Krankheitstage, Steuernummern. Eine Stunde später bemerkt sie ihren Fehler. Die Frage, die dann auf dem Tisch des Compliance-Verantwortlichen landet, ist einfach: Ist das eine meldepflichtige Datenpanne?

In Australien führt die Antwort über das Meldesystem für Datenpannen, das Notifiable Data Breaches scheme. Es legt klare Schritte und eine Prüffrist von 30 Tagen fest. Schwierig ist, es auf einen Vorfall mit KI anzuwenden.

Das NDB-System im Überblick

Das Meldesystem steht in Teil IIIC des Privacy Act 1988 und gilt seit dem 22. Februar 2018. Es betrifft alle Stellen, die an die Australian Privacy Principles gebunden sind: Bundesbehörden und die meisten Organisationen mit einem Jahresumsatz von mehr als 3 Millionen australischen Dollar, außerdem bestimmte Kleinunternehmen wie Gesundheitsdienstleister.

Eine Datenpanne gilt als "eligible", also meldepflichtig, wenn drei Bedingungen erfüllt sind:

• unbefugter Zugriff auf personenbezogene Daten, deren unbefugte Offenlegung oder deren Verlust;

• ein wahrscheinlicher schwerer Schaden für eine oder mehrere Personen;

• die Stelle konnte dieses Risiko nicht durch Abhilfemaßnahmen abwenden.

Dann muss die Stelle das Office of the Australian Information Commissioner (OAIC) und die Betroffenen so bald wie möglich informieren. Die Zahlen zeigen, dass das Thema nicht theoretisch ist: Das OAIC erhielt 2024 insgesamt 1.113 Meldungen, ein Rekordjahr für das System.

Wann ein Prompt zur meldepflichtigen Datenpanne wird

Personenbezogene Daten in ein externes KI-Tool einzufügen, ist nicht automatisch eine meldepflichtige Panne. Es kann aber eine unbefugte Offenlegung sein, vor allem wenn die Organisation das Tool nicht freigegeben hat, kein Vertrag die Daten abdeckt oder der Anbieter Unterhaltungen speichern oder zum Training seiner Modelle verwenden kann.

Danach hängt alles am schweren Schaden. Ein Vorname und ein Termin wiegen wenig. Steuernummern (TFN), Medicare-Nummern, Gesundheitsdaten, Bankverbindungen oder Ausweisdokumente sind etwas anderes. Das OAIC selbst empfiehlt in seinem Leitfaden vom Oktober 2024 zu kommerziellen KI-Produkten, keine personenbezogenen und vor allem keine sensiblen Daten in öffentlich zugängliche generative KI-Tools einzugeben. Diesen Leitfaden haben wir in unserem Artikel über den Privacy Act, das OAIC und generative KI vorgestellt.

Die 30-tägige Prüfung

Hat eine Stelle begründeten Verdacht auf eine meldepflichtige Datenpanne, verlangt das Gesetz eine angemessene und zügige Prüfung und angemessene Schritte, um diese innerhalb von 30 Tagen abzuschließen. Bei einem KI-Vorfall muss die Prüfung konkrete Fragen beantworten:

1. Welches Tool wurde genutzt, mit welchem Konto: privat, kostenlos oder geschäftlich mit Vertrag?

2. Welche Daten wurden gesendet, zu wie vielen Personen und wie sensibel waren sie?

3. Speichert der Anbieter Unterhaltungen, und wie lange?

4. Lässt sich eine schriftlich bestätigte Löschung erreichen?

5. Könnten die Daten weiterverwendet, geteilt oder anderen Nutzern zugänglich geworden sein?

Ohne Protokoll darüber, was gesendet wurde, lässt sich die zweite Frage kaum beantworten. Genau dort bleiben viele Prüfungen stecken.

Ein Reaktionsplan in vier Schritten

Das OAIC empfiehlt ein Vorgehen in vier Schritten: eindämmen, bewerten, melden, überprüfen. Auf KI übertragen heißt das:

• Eindämmen: die Unterhaltung löschen, den Verlauf deaktivieren, den Anbieter um Löschung bitten und den Zugang zum Tool bei Bedarf sperren.

• Bewerten: die gesendeten Daten rekonstruieren, das Risiko eines schweren Schadens einschätzen und jede Entscheidung dokumentieren.

• Melden: Ist die Panne meldepflichtig, die Erklärung an das OAIC vorbereiten und die Betroffenen mit praktischen Hinweisen informieren.

• Überprüfen: die Ursache beheben, die Regeln für die KI-Nutzung anpassen und sicherstellen, dass sich derselbe Handgriff nicht wiederholt.

Abhilfemaßnahmen spielen eine große Rolle. Handelt die Stelle so schnell, dass ein schwerer Schaden nicht mehr wahrscheinlich ist, kann die Meldung entfallen. Das muss sie aber belegen können.

Was Fehler kosten

Seit der Reform von 2022 kann ein schwerwiegender oder wiederholter Eingriff in die Privatsphäre mit bis zu 50 Millionen australischen Dollar, dem Dreifachen des erlangten Vorteils oder 30 % des bereinigten Umsatzes im betreffenden Zeitraum geahndet werden, je nachdem, welcher Betrag höher ist. Die Reform von 2024 brachte zusätzliche mittlere Sanktionsstufen und Bußgeldbescheide. Über die Strafe hinaus schadet eine verspätete oder schlecht vorbereitete Meldung dem Vertrauen der Kunden. Unser Artikel über die realen Kosten von Schatten-KI beschreibt diese Folgen.

Vorbeugen statt melden

Der beste Vorfall ist der, der gar nicht passiert. Eine Kontrolle in dem Moment, in dem Mitarbeitende Daten einfügen oder hochladen, kann eine TFN, eine Medicare-Nummer oder eine Krankenakte erkennen und dann anonymisieren, warnen oder blockieren. Jedes Ereignis wird protokolliert und fließt direkt in die 30-tägige Prüfung ein, falls doch ein Vorfall eintritt. Wie ein Datenleck Schritt für Schritt entsteht, zeigt unser Artikel zur Anatomie eines KI-Datenlecks, und für die Einführung unser 90-Tage-Rollout-Playbook für KI-DLP.

Zusammenfassung

In Australien kann ein Prompt mit personenbezogenen Daten zu einer meldepflichtigen Datenpanne im Sinne des NDB-Systems werden. Die betroffene Stelle muss den Vorfall dann innerhalb von 30 Tagen prüfen und das OAIC sowie die Betroffenen informieren, wenn ein schwerer Schaden wahrscheinlich ist. Ein einsatzbereiter Reaktionsplan, verlässliche Protokolle und eine Kontrolle im Moment des Einfügens machen den Unterschied.

ZeusLock erkennt und anonymisiert TFN, Medicare-Nummern und andere sensible Daten, bevor sie einen KI-Assistenten erreichen, und liefert die Nachweise, die Sie für eine NDB-Prüfung brauchen. Fordern Sie eine ZeusLock-Demo an, um Ihre Reaktion auf Vorfälle vorzubereiten.