Explication de l’Ordre Exécutif californien sur la surveillance de l’IA via les marchés publics
L’État de Californie, sous la gouvernance du gouverneur Gavin Newsom, a publié l’Ordre Exécutif N‑5‑26, visant à imposer de nouvelles normes aux marchés publics relatifs à l’intelligence artificielle (IA). Cet ordre s’inscrit dans une stratégie plus large de régulation de l’IA, en obligeant les fournisseurs à respecter des exigences de certification, de divulgation et de gestion des risques avant d’obtenir des contrats publics.
Structure du cadre de l’IA axé sur les marchés publics
L’ordre ne crée pas d’obligations légales générales, mais intègre des garde‑fous spécifiques dans les processus de passation de marchés. Les points clés comprennent :
- Certification des fournisseurs : les entreprises doivent démontrer que leurs systèmes d’IA intègrent des contrôles contre le contenu préjudiciable ou illégal, les biais algorithmiques et les atteintes aux droits civils.
- Gestion des risques de la chaîne d’approvisionnement : les agences peuvent prendre des décisions indépendantes quant aux fournisseurs jugés à haut risque, même en présence de restrictions fédérales.
- Marquage d’eau et surveillance interne : l’utilisation potentielle de filigranes pour le contenu synthétique et un suivi interne accru de l’utilisation de l’IA.
Interaction avec la politique fédérale sur l’IA
Le cadre californien se superpose à plusieurs initiatives fédérales, dont l’Executive Order 13960 (2020) et les mémos OMB M‑25‑22 et M‑26‑04 (2025). Bien que les deux niveaux de gouvernement poursuivent des objectifs similaires – sécurité de l’IA et atténuation des biais – le fédéral affirme une autorité exclusive sur la régulation, ce qui pourrait entraîner des conflits de préemption.
Implications pour les contractants gouvernementaux
Les entreprises qui travaillent avec la Californie devront intégrer des déclarations d’IA, des certifications et des obligations de conformité dans leurs propositions. Pour les contractants opérant à la fois sur les marchés étatiques et fédéraux, les différences potentielles entre les exigences pourraient créer des obligations contradictoires, augmentant la complexité de la conformité.
Exemples concrets et bonnes pratiques
Des leçons tirées de la harmonisation des exigences en matière d’emploi (fédéral : interdiction de l’action positive, états : maintien) montrent l’importance d’établir des cadres de gouvernance interne capables d’ajuster rapidement les pratiques selon les juridictions concernées.
Recommandations pour les organisations
Les entreprises développant ou déployant des systèmes d’IA destinés aux marchés publics doivent :
- Évaluer leurs contrôles internes en matière de biais et de sécurité.
- Préparer des documents de certification détaillant les mesures de mitigation des risques.
- Surveiller l’évolution des directives californiennes et fédérales afin d’anticiper les éventuels conflits juridiques.
En suivant ces étapes, les organisations pourront réduire les incertitudes liées aux exigences de conformité et se positionner favorablement face aux exigences croissantes des marchés publics en matière d’IA.