Contexte législatif et obligations de transparence
À partir du 10 décembre 2026, toute organisation australienne, y compris les agences gouvernementales, qui utilise des informations personnelles dans un programme informatique pour aider à prendre des décisions affectant de manière significative les droits ou les intérêts d’une personne doit le mentionner dans sa politique de confidentialité. Cette exigence provient de la Privacy and Other Legislation Amendment Act 2024 et s’applique aux services tels que Services Australia, les administrations fiscales, les régulateurs de licences, ainsi qu’à toute agence exploitant un moteur de décision ou un outil de triage.
Contenus obligatoires de la divulgation
Les entités doivent indiquer dans leur politique :
- Les types d’informations personnelles utilisées.
- Les décisions entièrement prises par des programmes informatiques.
- Les décisions où une étape automatisée contribue de manière substantielle à la décision finale prise par un humain.
Définition large du « programme informatique »
La définition adoptée par l’OAIC englobe à la fois les systèmes d’apprentissage automatique et les processus basés sur des règles préprogrammées. Ainsi, même un simple tableau Excel qui calcule et classe les appels d’urgence est considéré comme un « programme informatique », alors qu’une formule qui se contente de calculer l’âge d’une personne ne l’est pas.
Conséquences du non-respect
Les sanctions peuvent atteindre le plus élevé des montants suivants : 50 millions d’AUD, trois fois le bénéfice obtenu, ou 30 % du chiffre d’affaires ajusté. Cependant, l’obligation se limite à la description générale des systèmes, sans droit individuel d’exiger une explication détaillée d’une décision particulière.
Le paradoxe de l’expansion de l’IA publique
Alors que les agences préparent leurs divulgations, le gouvernement australien accélère simultanément l’adoption interne de l’IA via le programme GovAI. Ce dispositif sécurisé, souverain et intergouvernemental propose formation, catalogue d’applications et sandbox pour développer de nouveaux outils.
Mandat de formation et gouvernance
Le plan d’IA du ministre des Finances, Katy Gallagher, impose une formation fondamentale en IA à environ 200 000 fonctionnaires et oblige chaque agence à désigner un chef de l’IA d’ici juillet 2026. GovAI a lancé des essais de GovAI Chat dès avril 2026.
Exemple historique : le scandale Robodebt
Le cadre actuel trouve son origine dans le fiasco Robodebt, où un système automatisé de recouvrement de dettes a indûment ciblé des bénéficiaires de prestations sociales. La Commission royale a qualifié le mécanisme de « cru et cruel », recommandant notamment la divulgation publique des processus automatisés et la mise à disposition des algorithmes pour un examen indépendant.
Recommandations de la commission
- Divulguer, en langage clair, l’utilisation de la prise de décision automatisée sur les sites web des ministères.
- Rendre les règles commerciales et les algorithmes accessibles à l’examen indépendant.
Écart de préparation et perspectives
L’Office du Commissaire à l’information australienne (OAIC) a déjà évalué la capacité des agences à divulguer leurs pratiques d’IA, révélant des résultats peu encourageants. Le défi consiste donc à combler l’écart entre la conformité réglementaire et l’ambition d’expansion technologique, tout en assurant la confiance du public grâce à une transparence effective.