Verticale

Audit des systèmes d’IA utilisés dans les ressources humaines.

Les outils qui trient des candidatures, notent des candidats ou apparient des profils sont classés à haut risque par le règlement. Cet audit recense ceux que vous utilisez, mesure leurs risques et dit ce qu’il reste à faire, au regard de l’AI Act, du RGPD et du droit du travail.

Durée: 4 à 6 semaines
Accès requis: Aucun au modèle du fournisseur
Cadres: AI Act, RGPD, droit du travail
Livrable: Opinion formelle et feuille de route

Cadrer un audit RH

Vous êtes déployeur, avec des obligations propres

L’outil vient d’un éditeur, mais l’entreprise qui s’en sert pour recruter ou évaluer répond de son usage : contrôle humain, pertinence des données d’entrée, conservation des journaux, information des travailleurs. Le contrat passé avec le fournisseur ne transfère pas ces obligations.

Un outil fermé s’audite quand même

Nous soumettons à l’outil des CV contrefactuels, identiques à une caractéristique près, et nous mesurons ce qui change dans le résultat. La méthode fonctionne en boîte noire : elle ne demande aucun accès au modèle du fournisseur.

Périmètre

Trois corps de règles, un seul audit.

Un même outil de recrutement relève à la fois du règlement sur l’IA, de la protection des données et du droit du travail. Nous les examinons ensemble, sur tout le parcours du candidat et du salarié.

Inventaire et classification. Tri et classement de CV, notation, appariement de compétences, sourcing automatisé, analyse d’entretiens, mobilité interne : chaque système est recensé, classé au titre de l’annexe III et rattaché à un rôle de déployeur ou de fournisseur.

Obligations du déployeur. Contrôle humain, pertinence des données d’entrée, journalisation et information des travailleurs, au titre de l’article 26.

Droits fondamentaux. Une analyse d’impact qui identifie les atteintes possibles aux droits des candidats et des salariés, et les mesures qui les réduisent.

Protection des données. L’analyse d’impact relative à la protection des données et l’examen de la décision automatisée dans le processus de recrutement.

Écarts de traitement. Des tests quantitatifs qui comparent les taux de sélection entre groupes de candidats, selon le genre, l’âge, l’origine ou le handicap.

Variables de substitution. La détection des données qui reproduisent indirectement un critère interdit.

Droit du travail. Pertinence des méthodes de recrutement, information des candidats, consultation du CSE et non-discrimination.

Revue du fournisseur. Documentation technique, notice d’utilisation, marquage CE et clauses contractuelles de l’éditeur.

Point d’attention

Les fonctions ajoutées par l’éditeur. Un outil de gestion des candidatures peut recevoir une fonction de classement ou de notation lors d’une mise à jour. L’inventaire relève ces fonctions, y compris celles que personne n’a demandées.

Déroulement

Six étapes, du recensement à l’opinion.

CadrageLes étapes du recrutement et de la gestion du personnel couvertes, les outils concernés, et les interlocuteurs : RH, SIRH, juridique, protection des données.
Inventaire et qualificationChaque système d’IA est recensé, classé par niveau de risque et rattaché à un rôle de déployeur ou de fournisseur.
Revue des obligationsLes obligations du déployeur sont cartographiées une à une, avec les analyses d’impact et la revue de droit du travail.
TestsTests quantitatifs d’écarts de traitement, audit contrefactuel de l’outil en boîte noire, recherche des variables de substitution.
Revue du fournisseurCe que l’éditeur documente, ce qu’il garantit par contrat, et ce qui reste à votre charge.
Opinion et plan d’actionUne opinion formelle, le registre des risques résiduels avec leurs contrôles compensatoires, et une feuille de route hiérarchisée.

Livrables

Ce que vous recevez.

Inventaire des systèmes d’IA RH Classification et qualification du rôle Cartographie des obligations du déployeur Analyse d’impact sur les droits fondamentaux Analyse d’impact sur la protection des données Tests de biais quantitatifs Détection des variables de substitution Audit contrefactuel de l’outil de recrutement Revue de droit du travail Revue du fournisseur Conception du contrôle humain Registre des risques résiduels Feuille de route de remédiation Dossier d’information du CSE Plan de maîtrise de l’IA des équipes RH Synthèse pour la direction et dossier de preuves

À qui s’adresse l’audit RH

Aux directions des ressources humaines et aux responsables SIRH, le plus souvent déployeurs d’outils conçus par un éditeur, ainsi qu’aux directions juridiques et aux délégués à la protection des données qui les accompagnent.

Autour de l’audit RH

Une verticale de l’audit, pas un exercice à part.

Le socle · Évaluer

Audit de conformité d’un système d’IA

La même méthode, pour tout autre système d’IA de l’entreprise.

Après · Remédier

Mise en conformité AI Act

L’exécution de la feuille de route, jusqu’à un dossier qu’un tiers peut relire.

Prochaine étape

Cadrer un audit RH.

Indiquez-nous les outils d’IA utilisés dans votre recrutement et dans la gestion de vos talents. Nous revenons vers vous avec une proposition de périmètre, une durée et un prix forfaitaire.

Nous écrire