Poursuite révolutionnaire : Tests des outils de recrutement par IA et conformité au FCRA
Selon la plainte, Eightfold génère des rapports sur les candidats en utilisant des outils alimentés par l’IA qui assemblent et évaluent des informations sur les employés potentiels, et évaluent leur adéquation pour un poste en fonction de divers facteurs tels que l’historique de travail, la trajectoire professionnelle future, l’adéquation culturelle, et d’autres caractéristiques personnelles.
La société aurait ensuite vendu ces rapports aux employeurs pour aider à prendre des décisions d’embauche.
Fonctionnement des outils d’évaluation
Pour générer ces rapports, la plainte allègue que des informations sont intégrées dans le modèle de langage large (LLM) de l’entreprise, qui intègre plus de 1,5 milliard de points de données provenant de titres d’emploi, de compétences, et des profils de plus d’un milliard de personnes dans tous les emplois, professions et industries.
Les outils d’évaluation de Eightfold évaluent et classent les candidats en utilisant des données recueillies lors du processus de candidature, les données internes des employeurs, des données externes, et le LLM propriétaire de Eightfold.
Données des candidats
La plainte précise que l’évaluation inclut non seulement le profil et le CV du candidat, mais aussi des données supplémentaires recueillies à partir de sources publiques sur l’historique professionnel du candidat (comme des blogs, publications, conférences, etc.), des données d’autres employés comparables, des prédictions sur le candidat, et des données utilisées pour former l’IA de Eightfold.
De plus, une fois qu’un candidat postule pour un emploi avec un employeur utilisant l’outil Eightfold, la société conserve les données de ce candidat et les utilise pour évaluer d’autres candidats pour le même poste, des postes non liés, ou pour le même candidat pour d’autres postes à l’avenir.
Protections FCRA
Le FCRA (Fair Credit Reporting Act) et des équivalents étatiques comme l’ICRAA régulent comment les employeurs obtiennent et utilisent des rapports de consommateurs pour des objectifs d’emploi, y compris l’embauche, la promotion ou le maintien. Le FCRA exige que les employeurs fournissent des divulgations écrites aux employés et candidats, et obtiennent une autorisation écrite avant d’obtenir un rapport.
Pour prendre une action défavorable, comme le rejet d’un candidat basé sur des informations contenues dans un rapport de consommation, le FCRA impose des exigences de notification préalables et des opportunités pour le candidat de corriger des informations inexactes.
Le FCRA régule également les agences de reporting des consommateurs, définies comme des entités qui assemblent ou évaluent des informations sur les consommateurs dans le but de fournir des rapports à des tiers.
Implications pour les employeurs
Bien que les outils d’IA aient déjà été confrontés à des poursuites et des réglementations alléguant qu’ils peuvent conduire à de la discrimination illégale en matière d’emploi, la nouvelle affaire Eightfold soulève des allégations et des questions inédites concernant la conformité à la FCRA et d’autres lois sur les vérifications de fonds, une structure juridique très différente des lois sur la discrimination en matière d’emploi.
Prochaines étapes
La poursuite Eightfold pourrait être la première d’un nouveau type de litige collectif ciblant des outils d’emploi utilisant l’IA ou des processus de prise de décision automatisés ou algorithmiques utilisant des données spécifiques aux candidats ou aux employés. Cependant, l’affaire en est à ses débuts, et il n’est pas clair si les revendications survivront à la procédure judiciaire.
Les employeurs peuvent vouloir surveiller cette affaire et d’autres similaires au fur et à mesure de leur développement. En attendant, ils pourraient également souhaiter examiner leur utilisation des outils alimentés par l’IA pour le recrutement et l’embauche.
Les groupes de pratique de vérification des antécédents, de cybersécurité et de confidentialité, et de technologie d’Ogletree Deakins continueront de surveiller les développements et fourniront des mises à jour sur les blogs relatifs aux vérifications de fonds, à la Californie, aux actions collectives, à la cybersécurité et à la confidentialité, au droit du travail, et à la technologie à mesure que des informations supplémentaires deviendront disponibles.