Australie : quand un prompt d'IA devient une violation à notifier

Un lundi matin, une responsable RH de Melbourne colle un tableau dans un assistant d'IA grand public pour préparer une synthèse : noms, salaires, arrêts maladie, numéros fiscaux. Elle se rend compte de son erreur une heure plus tard. La question qui tombe alors sur le bureau du responsable conformité est simple : s'agit-il d'une violation de données à notifier ?

En Australie, la réponse passe par le régime de notification des violations de données, le Notifiable Data Breaches scheme. Il fixe des étapes précises et un délai d'évaluation de 30 jours. Encore faut-il savoir comment l'appliquer à un incident lié à l'IA.

Le régime NDB en bref

Le régime de notification figure dans la partie IIIC du Privacy Act 1988 et s'applique depuis le 22 février 2018. Il concerne les entités soumises aux Australian Privacy Principles : les agences fédérales et la plupart des organisations dont le chiffre d'affaires annuel dépasse 3 millions de dollars australiens, ainsi que certaines petites entreprises, comme les prestataires de santé.

Une violation est dite « éligible » lorsque trois conditions sont réunies :

• un accès non autorisé, une divulgation non autorisée ou une perte de renseignements personnels ;

• un risque probable de préjudice grave pour une ou plusieurs personnes ;

• l'entité n'a pas réussi à écarter ce risque par une action corrective.

Dans ce cas, l'entité doit prévenir l'Office of the Australian Information Commissioner (OAIC) et les personnes concernées dès que possible. Le volume montre que le sujet n'a rien de théorique : l'OAIC a reçu 1 113 notifications en 2024, un record depuis la création du régime.

Quand un prompt devient une violation éligible

Coller des données personnelles dans un outil d'IA externe n'est pas automatiquement une violation à notifier. Mais cela peut constituer une divulgation non autorisée, surtout si l'outil n'a pas été validé par l'organisation, si aucun contrat n'encadre les données, ou si le fournisseur peut conserver les échanges ou les utiliser pour entraîner ses modèles.

Tout se joue ensuite sur le préjudice grave. Un prénom et une date de réunion pèsent peu. Des numéros fiscaux (TFN), des numéros Medicare, des informations de santé, des coordonnées bancaires ou des documents d'identité changent la donne. L'OAIC elle-même recommande, dans son guide d'octobre 2024 sur les produits d'IA commerciaux, de ne pas saisir de renseignements personnels, en particulier sensibles, dans des outils d'IA générative accessibles au public. Nous avons présenté ce guide dans notre article sur le Privacy Act, l'OAIC et l'IA générative.

Les 30 jours d'évaluation

Lorsqu'une entité a des motifs raisonnables de soupçonner une violation éligible, la loi lui impose une évaluation rapide et raisonnable, et lui demande de prendre des mesures raisonnables pour la terminer dans les 30 jours. Pour un incident lié à l'IA, cette évaluation doit répondre à des questions concrètes :

1. Quel outil a été utilisé, avec quel type de compte : personnel, gratuit, ou professionnel sous contrat ?

2. Quelles données ont été envoyées, pour combien de personnes, et de quelle sensibilité ?

3. Le fournisseur conserve-t-il les conversations, et pendant combien de temps ?

4. Peut-on obtenir une suppression confirmée par écrit ?

5. Les données ont-elles pu être réutilisées, partagées ou exposées à d'autres utilisateurs ?

Sans journal de ce qui a été envoyé, il est très difficile de répondre à la deuxième question. C'est souvent là que l'évaluation s'enlise.

Un playbook de réponse en quatre temps

L'OAIC propose une démarche en quatre étapes : contenir, évaluer, notifier, revoir. Appliquée à l'IA, elle donne ceci :

• Contenir : supprimer la conversation, désactiver l'historique, demander l'effacement au fournisseur et suspendre l'accès à l'outil si besoin.

• Évaluer : reconstituer les données envoyées, mesurer le risque de préjudice grave et documenter chaque décision.

• Notifier : si la violation est éligible, préparer la déclaration à l'OAIC et informer les personnes concernées, avec des conseils pratiques.

• Revoir : corriger la cause, adapter les règles d'usage de l'IA et vérifier que le même geste ne peut pas se reproduire.

La mesure corrective joue un rôle important. Si l'entité agit assez vite pour que le préjudice grave ne soit plus probable, la notification peut ne pas être requise. Encore faut-il pouvoir le démontrer.

Ce que coûte une mauvaise gestion

Depuis la réforme de 2022, une atteinte grave ou répétée à la vie privée peut être sanctionnée jusqu'à 50 millions de dollars australiens, trois fois l'avantage obtenu, ou 30 % du chiffre d'affaires ajusté sur la période concernée, le montant le plus élevé étant retenu. La réforme de 2024 a ajouté des sanctions intermédiaires et des avis d'infraction. Au-delà de l'amende, une notification tardive ou mal préparée abîme la confiance des clients. Notre article sur le vrai coût de l'IA fantôme détaille ces effets.

Prévenir plutôt que notifier

Le meilleur incident est celui qui n'arrive pas. Un contrôle au moment où l'employé colle ou téléverse des données permet de détecter un TFN, un numéro Medicare ou un dossier médical, puis d'anonymiser, d'avertir ou de bloquer. Chaque événement est journalisé, ce qui alimente directement l'évaluation des 30 jours si un incident survient malgré tout. Pour comprendre comment une fuite se produit pas à pas, voyez notre article sur l'anatomie d'une fuite de données par l'IA, et pour le déploiement, notre playbook de déploiement en 90 jours.

En résumé

En Australie, un prompt contenant des données personnelles peut devenir une violation éligible au sens du régime NDB. Les entités doivent alors évaluer l'incident dans les 30 jours et notifier l'OAIC et les personnes concernées si un préjudice grave est probable. Un playbook prêt à l'emploi, des journaux fiables et un contrôle au moment du collage font toute la différence.

ZeusLock détecte et anonymise les TFN, numéros Medicare et autres données sensibles avant qu'ils n'atteignent un assistant d'IA, et conserve la trace dont vous avez besoin pour une évaluation NDB. Demandez une démo de ZeusLock pour préparer votre réponse aux incidents.