Guide pour les employeurs du New Jersey sur les risques de discrimination algorithmique au travail
En janvier 2025, la Division des droits civils du New Jersey (DCR) a publié des directives précisant que la Loi contre la discrimination (LAD) s’applique également aux décisions d’emploi prises avec l’aide de l’intelligence artificielle (IA). Les employeurs ne peuvent pas se décharger de leur responsabilité simplement parce qu’un algorithme, et non une personne, a influencé la décision.
Qu’est‑ce que la discrimination algorithmique ?
La discrimination algorithmique survient lorsqu’un outil de prise de décision automatisée engendre une différence de traitement fondée sur une caractéristique protégée : race, sexe, âge, handicap, religion, origine nationale ou toute autre catégorie reconnue par la LAD. Les technologies concernées comprennent l’IA, le machine learning et l’analyse prédictive.
Les biais peuvent découler de plusieurs sources :
- Conception défectueuse du système – des critères de sélection mal définis.
- Données d’entraînement biaisées – historiques reflétant des pratiques discriminatoires.
- Mise en œuvre inadéquate – absence de contrôles humains ou de validation.
Implications pour les employeurs
La DCR rappelle que les employeurs restent responsables des décisions d’emploi assistées par IA. Si un outil automatisé engendre un traitement différentiel illégal, un impact disparate ou entrave le droit à une accommodation raisonnable, l’employeur s’expose à des sanctions sous la LAD. L’utilisation d’un fournisseur tiers ne constitue pas une défense.
Contexte régional
Le New Jersey n’est pas isolé ; plusieurs juridictions renforcent la régulation de l’IA en emploi :
- New York City a adopté une loi exhaustive obligeant les employeurs à réaliser des audits annuels de biais, publier les résumés et informer à l’avance les candidats et employés.
- Connecticut a promulgué le Sénat Bill No. 5, qui impose la notification des utilisateurs lorsque l’IA influence les décisions, la divulgation des catégories et sources de données, et interdit explicitement l’usage discriminatoire de l’IA.
D’autres États comme l’Illinois, le Colorado et la Californie poursuivent ou ont déjà adopté des législations similaires.
Réduire les risques pour les employeurs
Pour intégrer l’IA de façon responsable, les employeurs devraient :
- Comprendre les mécanismes de recommandation des outils IA.
- Collaborer avec des fournisseurs qui testent régulièrement les biais.
- Auditer périodiquement les résultats générés par l’IA afin d’identifier d’éventuelles disparités.
- Maintenir une supervision humaine sur les décisions majeures.
- Permettre aux employés et candidats de demander des accommodations raisonnables lorsque des systèmes automatisés sont impliqués.
Conclusion
L’IA représente un atout précieux, mais elle ne dispense pas les employeurs du respect des lois anti-discrimination. Les standards juridiques de la LAD s’appliquent que la décision provienne d’un superviseur ou d’un algorithme. Une évaluation continue des outils automatisés, combinée à des pratiques de gouvernance solide, permet de réduire les risques juridiques tout en tirant parti des avancées technologiques.