Audit critique de la loi sur l’embauche par IA de la ville de New York
Les employeurs de la ville de New York doivent fournir un avis clair et opportun aux candidats et employés lorsqu’un outil de décision automatisé en matière d’embauche (AEDT) sera utilisé. Ils doivent également identifier les qualifications et caractéristiques du poste évaluées.
Un audit récent du Contrôleur a révélé que l’application de la loi locale 144 par le Department of Consumer and Worker Protection (DCWP) est actuellement inefficace, citant des échecs majeurs dans la réception des plaintes, les examens de conformité et l’utilisation de l’expertise disponible.
Déficiences opérationnelles significatives
L’audit a mis en lumière des déficiences opérationnelles notables, notamment des plaintes mal orientées, des examens superficiels des audits de biais publiés et un non-respect des procédures d’application établies. Le DCWP s’est engagé à mettre en œuvre la plupart des recommandations du Contrôleur, signalant un passage vers une surveillance plus stricte et une activité d’application renforcée.
Préparation à une application renforcée
Les employeurs doivent s’attendre à une phase d’application plus stricte, avec des enquêtes accrues et le risque de pénalités quotidiennes. Ils sont encouragés à réaliser des inventaires d’AEDT, à vérifier leur conformité et à renforcer leur documentation.
Résumé de la loi locale 144
La loi locale 144 impose des obligations d’évaluation des biais et de transparence aux employeurs et agences d’emploi qui utilisent des AEDT pour évaluer des candidats ou des employés pour des promotions. Cette loi définit un AEDT comme tout processus computationnel dérivé de la machine learning, de la modélisation statistique, de l’analyse de données ou de l’intelligence artificielle.
Obligations clés des employeurs
- Audit de biais indépendant : Les employeurs doivent engager un auditeur indépendant pour réaliser un audit annuel des biais de l’outil.
- Transparence publique : Les employeurs doivent publier un résumé des résultats de l’audit sur leur site web.
- Avis aux candidats : Les employeurs doivent informer clairement et rapidement les candidats que l’AEDT sera utilisé dans leur évaluation.
Résultats de l’audit et implications
L’audit du Contrôleur a conclu que le système d’application de la loi locale 144 par le DCWP est inefficace. Il a mis en évidence plusieurs défauts critiques, tels que la mauvaise orientation des plaintes et les examens superficiels des audits de biais.
Les employeurs utilisant des AEDT doivent prendre des mesures proactives pour garantir que leurs programmes de conformité puissent résister à une scrutinisation accrue.
Actions recommandées pour les entreprises
- Conduire un inventaire complet des AEDT : Identifier si un outil relève de la loi locale 144.
- Assurer la conformité des audits de biais : Obtenir un audit de biais conforme pour éviter des pénalités significatives.
- Vérifier toutes les divulgations publiques et avis : S’assurer que le résumé de l’audit est clairement disponible sur le site web.
- Documenter les efforts de conformité : Maintenir un enregistrement clair et organisé du processus de conformité.