Cadre général de l’Ordre exécutif californien sur l’IA
L’État de Californie, sous l’impulsion du gouverneur Gavin Newsom, a publié l’Ordre exécutif N‑5‑26 afin d’intégrer des exigences d’IA dans les processus d’achat public. Cet ordre vise à instaurer des normes de certification, des exigences de divulgation et des obligations de gestion des risques pour les fournisseurs d’IA souhaitant contracter avec le secteur public californien.
Objectifs principaux
• Renforcer la sécurité et la fiabilité des systèmes d’IA utilisés par l’État.
• Atténuer les risques liés aux contenus illicites ou préjudiciables, aux biais algorithmiques et aux atteintes aux droits civiques.
• Créer un cadre de certification des fournisseurs qui pourra servir de référence de facto pour les entreprises souhaitant accéder au marché public californien.
Structure de la certification et exigences techniques
Les agences d’État devront développer des standards exigeant que les systèmes d’IA intègrent des contrôles contre :
Contenus illicites ou nuisibles
Des mécanismes de filtrage et de modération pour empêcher la diffusion de contenus illicites, violents ou désinformation.
Biais algorithmiques
Des processus d’audit et de documentation visant à identifier et corriger les biais qui pourraient affecter des groupes protégés ou porter atteinte aux droits civils.
Impact sur les libertés civiles
Une évaluation d’impact sur les droits fondamentaux, incluant la transparence des décisions automatisées et la possibilité de recours humain.
Gestion des chaînes d’approvisionnement et interactions fédérales
L’ordre autorise les agences californiennes à prendre des décisions autonomes concernant les fournisseurs jugés à haut risque, même si le gouvernement fédéral les a déjà sanctionnés. Cette disposition a été illustrée par la décision de la Californie de réévaluer le statut d’Anthropic, récemment désigné comme risque de chaîne d’approvisionnement par le gouvernement fédéral.
Cette approche peut créer des tensions juridiques, notamment des défis constitutionnels sur la base de la préemption fédérale, surtout lorsque des contrats impliquent des fonds fédéraux.
Contexte fédéral et convergence des politiques
Au niveau fédéral, plusieurs initiatives récentes ont renforcé l’usage de la dépense publique pour réguler l’IA :
Ordres exécutifs et mémos
• EO 13960 (2020) – Cadre initial de l’IA fiable pour le gouvernement fédéral.
• M‑25‑22 (2025) – Mémo OMB détaillant les exigences de procurement IA.
• EO 14319 – Obligation d’utiliser des modèles linguistiques conformes aux principes d’IA impartiale.
• M‑26‑04 (2025) – Mémo OMB renforçant la confiance publique via des principes d’impartialité.
Ces directives fédérales soulignent une convergence vers la sécurité, la transparence et la neutralité des systèmes d’IA, tout en affirmant la prérogative fédérale en matière de régulation.
Implications pour les contractants
Les entreprises qui souhaitent travailler avec la Californie devront préparer :
Documentation de conformité
Des certificats attestant que leurs modèles d’IA respectent les standards de gestion des biais, de sécurité des données et de respect des droits civiques.
Processus de gouvernance interne
Des cadres de gouvernance capables de répondre rapidement aux exigences contractuelles, incluant des audits réguliers et des mécanismes de reporting des incidents.
Gestion des divergences juridiques
Pour les sociétés opérant à la fois au niveau fédéral et étatique, il sera crucial de concilier les exigences californiennes avec les directives fédérales, afin d’éviter les conflits de conformité et les risques de sanctions.
Perspectives et recommandations
Les organisations doivent dès à présent :
- Évaluer leurs cadres de gouvernance IA existants face aux exigences californiennes.
- Mettre en place des processus d’audit continu pour détecter les biais et les risques de non‑conformité.
- Suivre de près les évolutions des politiques fédérales afin d’anticiper d’éventuels défis de préemption.
- Préparer des plans de communication transparents pour les parties prenantes publiques et privées.
En adoptant ces mesures, les entreprises pourront non seulement se conformer aux nouvelles exigences californiennes, mais aussi renforcer leur position concurrentielle sur le marché public national et international.