Audit critique de la loi sur l’emploi AI de NYC : risques accrus pour les employeurs
En décembre 2025, l’audit du Contrôleur de l’État de New York a évalué l’application par le Département de la Protection des Consommateurs et des Travailleurs (DCWP) de la Loi Locale 144, qui réglemente l’utilisation des outils de décision d’emploi automatisés (AEDT) dans le recrutement et la promotion. L’audit a conclu que l’application actuelle de la loi est « inefficace », citant, entre autres, des processus de traitement des plaintes problématiques et des examens de conformité inexacts.
Les critiques du Contrôleur pourraient intensifier la pression sur le DCWP pour qu’il renforce et améliore ses activités d’application. Les employeurs utilisant des AEDT pourraient faire face à une approche d’application plus stricte et sont encouragés à prendre des mesures proactives pour garantir que leurs programmes de conformité puissent résister à un examen accru.
Aperçu de la loi locale 144
La Loi Locale 144 de la ville de New York impose des obligations d’évaluation des biais et de transparence aux employeurs et agences d’emploi qui utilisent des AEDT pour sélectionner des candidats ou évaluer des employés pour la promotion.
Selon la Loi Locale 144, un AEDT est défini comme tout processus computationnel dérivé de l’apprentissage automatique, de la modélisation statistique, de l’analyse de données ou de l’intelligence artificielle utilisé pour « assister ou remplacer de manière substantielle la prise de décision discrétionnaire pour les décisions d’emploi ». Les règles du DCWP précisant la Loi Locale 144 expliquent qu’un AEDT « assiste substantiellement » ou « remplace » la prise de décision discrétionnaire lorsque l’employeur (1) s’appuie exclusivement sur la sortie de l’outil, (2) accorde plus de poids à cette sortie qu’à tout autre critère, ou (3) l’utilise pour annuler le jugement humain ou d’autres facteurs ayant conduit à une conclusion différente.
Obligations principales de la loi locale 144
Les employeurs utilisant des outils qui répondent à la définition d’un AEDT doivent respecter trois obligations fondamentales :
- Audit de biais indépendant : Les employeurs doivent engager un auditeur indépendant pour réaliser un audit annuel de biais de l’outil. Cet audit doit évaluer si l’outil a un impact disparate potentiel sur des groupes de sexe, race ou ethnicité particuliers en calculant les taux de sélection et de notation ainsi que leurs « ratios d’impact ».
- Transparence publique : Les employeurs doivent « afficher clairement et de manière visible » un résumé des résultats de l’audit de biais le plus récent sur leur site web, qu’il soit maintenu par l’employeur ou l’agence d’emploi.
- Notifications aux candidats : Les employeurs doivent fournir une notification claire et rapide aux candidats et employés de New York que des AEDT seront utilisés dans leur évaluation. La notification doit identifier les qualifications et caractéristiques du poste que l’outil évalue et informer les individus de leur droit de « se retirer » de l’utilisation de l’AEDT en demandant un processus de sélection alternatif ou un aménagement raisonnable.
Résultats clés de l’audit et risques accrus d’application
L’audit du Contrôleur, qui a examiné les activités du DCWP de juillet 2023 à juin 2025, a conclu que le système d’application de la Loi Locale 144 est « inefficace ». L’audit met en évidence plusieurs déficiences critiques :
- Processus de traitement des plaintes défaillant : L’audit a allégué une rupture fondamentale dans la stratégie d’application axée sur les plaintes du DCWP, critiquant le DCWP pour ne pas avoir pris de mesures proactives pour remédier au système. Le Contrôleur a constaté que 75 % des appels test passés à la hotline 311 de New York concernant des problèmes d’AEDT étaient mal routés et n’atteignaient jamais le DCWP.
- Examen superficiel de la conformité : L’audit a également critiqué l’examen par le DCWP des audits de biais publiés par les entreprises, notant que seulement un problème de non-conformité avait été identifié parmi 32 audits examinés.
- Incapacité à utiliser l’expertise disponible : L’audit a déclaré que les examens inadéquats du DCWP découlaient d’un échec à utiliser des procédures appropriées, notamment le « carnet de bord de l’application » formel.
Implications et actions recommandées
L’audit du Contrôleur signale une attente d’application renforcée, plaçant le DCWP sous une pression publique substantielle. En réponse à l’audit, l’agence a convenu de mettre en œuvre la majorité des recommandations du Contrôleur, y compris :
- Renforcer le processus de traitement des plaintes pour garantir que les plaintes liées aux AEDT soient correctement routées.
- Fournir une formation interdivisionnelle pour le personnel sur la gestion de ces plaintes.
- Mettre en œuvre des politiques et procédures écrites pour promouvoir une gestion précise et cohérente.
- Améliorer son approche d’application par le biais d’entretiens et de démonstrations d’outils AEDT, lorsque cela est approprié.
Les employeurs soumis à la Loi Locale 144 peuvent s’attendre à une nouvelle phase d’application stricte, avec des enquêtes plus fréquentes et des pénalités civiles plus élevées – jusqu’à 1 500 $ par violation par jour. L’audit fournit une feuille de route sur la manière dont le DCWP pourrait identifier les entreprises non conformes.
Étapes proactives recommandées pour les employeurs
- Réaliser un inventaire complet des AEDT : Les employeurs sont encouragés à travailler avec des conseillers juridiques pour inventorier tous les logiciels tiers et internes utilisés dans le processus de recrutement et de promotion.
- Assurer la conformité des audits de biais : Les entreprises utilisant un AEDT doivent obtenir un audit de biais conforme pour éviter des pénalités significatives.
- Vérifier toutes les divulgations publiques et notifications : Il est conseillé de confirmer que le résumé requis de l’audit est disponible de manière « claire et visible » sur le site web de l’entreprise.
- Documenter les efforts de conformité : Les entreprises doivent maintenir un dossier clair et organisé de leur processus de conformité, y compris l’inventaire des AEDT, tous les audits de biais et leurs résultats.