L'intelligence artificielle (IA) continue de révolutionner de nombreux secteurs, et l'espace de l'emploi ne fait pas exception. Selon la Society for Human Resource Management (SHRM)près d'une organisation sur quatre utilise l'automatisation ou l'IA pour des activités liées aux ressources humaines. Parmi ces organisations, la majorité (79 %) applique l'IA spécifiquement à la sélection (par exemple, les processus de recrutement et d'embauche). L'IA est utilisée de diverses manières dans la sélection et le recrutement des employés, notamment pour automatiser les recherches de candidats, examiner ou filtrer les CV des candidats, présélectionner les candidats pour les entretiens, administrer ou noter les évaluations de compétences, mener des entretiens vidéo et administrer et noter les évaluations basées sur des jeux (SHRM, 2022).
Si l'utilisation de l'IA dans l'espace de sélection est en augmentation, elle n'est pas sans susciter des inquiétudes et des critiques. Par exemple, les outils d'IA peuvent susciter des réactions négatives si les algorithmes utilisés manquent de transparence et d'explication. En d'autres termes, lorsque les systèmes d'IA sont complexes et difficiles à comprendre, il est difficile pour les candidats et les recruteurs (et parfois même pour les développeurs d'algorithmes) de comprendre pourquoi certaines décisions sont prises (Ravi, 2023). Un manque de transparence algorithmique peut diminuer la confiance dans le processus de recrutement ou d'embauche et, par conséquent, accroître les préoccupations en matière d'équité et de responsabilité (Ravi, 2023). Les préoccupations liées à l'IA dans la sélection des employés ont conduit à une augmentation significative de la réglementation dans cet espace. Plus récemment, la ville de New York a adopté la loi locale 144 de la ville de New York a commencé à être appliquée le 5 juillet 2023. Cette loi s'applique aux situations dans lesquelles un outil automatisé de décision en matière d'emploi (AEDT) est utilisé pour embaucher ou promouvoir des personnes pour un emploi situé dans un bureau à New York, au moins à temps partiel ; un emploi entièrement à distance mais dont l'emplacement associé est un bureau à New York ; ou lorsque l'agence pour l'emploi qui utilise l'AEDT se trouve à New York.
La loi locale 144 exige qu'un audit annuel sur la partialité soit effectué par un auditeur indépendant et que les résultats de l'audit soient publiés sur le site web de l'employeur. La loi exige également que les candidats soient informés1 de l'utilisation par une organisation d'un TEDA dans le processus de sélection, y compris les qualifications et caractéristiques professionnelles évaluées par le TEDA, le type de données utilisées, la source de ces données, la politique de conservation des données de l'organisation et les instructions sur la manière dont les candidats peuvent demander un processus de sélection alternatif ou des aménagements.2 Il convient de noter que la ville de New York définit le concept d'AEDT d'une manière qui va au-delà des méthodes d'IA telles que l'apprentissage automatique et le traitement du langage naturel. Cette loi peut s'appliquer non seulement aux procédures de sélection utilisant ces technologies avancées, mais aussi à de nombreuses procédures existantes qui reposent sur des algorithmes complexes. Tous ces processus doivent s'aligner sur cette loi pour garantir leur conformité.
La loi de la ville de New York n'est que la partie émergée de l'iceberg en ce qui concerne la réglementation de l'utilisation de l'IA dans la sélection des employés ; il est probable que de nouvelles lois locales et d'État seront proposées et adoptées dans ce domaine dans un avenir prévisible. Plusieurs lois de ce type sont en vigueur ou à l'étude. L'outil de suivi de la législation des États de l'ICD de DEI donne un aperçu de chacune d'entre elles. Outre la loi locale 144, trois autres lois sont actuellement en vigueur dans ce domaine. Ces lois exigent le consentement du demandeur avant de pouvoir utiliser une technologie basée sur l'IA (par exemple, la loi sur les entretiens vidéo de l'Illinois et le projet de loi 1202 de la Chambre des représentants du Maryland) ou exigent un inventaire des technologies d'IA utilisées par les agences de l'État (par exemple, le projet de loi 1103 du Sénat du Connecticut).
Les lois actuellement en cours de proposition, six au total au moment de la rédaction de ce blog, pourraient imposer une charge beaucoup plus lourde aux organisations. Chacune de ces propositions de loi axées sur l'AEDT fait référence à la nécessité d'expliquer les algorithmes et d'assurer la transparence, ainsi qu'à l'obligation d'informer les candidats. Certaines prévoient également des analyses d'impact négatif (c'est-à-dire un "audit de partialité"), la prise en compte du lien avec l'emploi (c'est-à-dire la validité), la mise à disposition d'alternatives et des clauses relatives à la confidentialité et/ou à la conservation des données.
Nous nous pencherons plus en détail sur les deux propositions de loi les plus avancées dans le processus d'élaboration - l'une en Californie et l'autre à Washington, D.C. - qui devraient connaître un regain d'activité au cours de l'année prochaine.
La loi proposée par la Californie - qui devrait entrer en vigueur le 1er janvier 2025 - exigerait une notification, la réalisation d'un audit sur les préjugés et sa soumission au département des droits civils de l'État de Californie, ainsi qu'une évaluation alternative non AEDT pour les candidats qui choisissent de ne pas passer l'AEDT "si c'est techniquement possible". Dans sa version actuelle, la proposition de loi indique que l'audit des préjugés doit inclure :
- Une déclaration de l'objectif de l'IA et des avantages escomptés,
- Une description des résultats de l'AEDT et de leur utilisation,
- Un résumé du type de données collectées et traitées,
- La mesure dans laquelle l'utilisation de l'AEDT est conforme à la déclaration d'utilisation du développeur (c'est-à-dire l'utilisation réelle par rapport à l'utilisation prévue),
- Une analyse de l'impact négatif potentiel sur les catégories (sous-groupes) protégées,
- Une description des mesures de sauvegarde mises en œuvre pour atténuer les risques,
- une description de la manière dont l'AEDT sera utilisé ou contrôlé, et
- Informations sur la manière dont l'IA sera évaluée en termes de validité ou de pertinence professionnelle.
L'ajout de l'obligation d'évaluer la validité et la pertinence professionnelle de l'AEDT, en particulier, distingue cette loi de nombreuses autres lois axées sur l'IA. L'obligation d'évaluer la validité est remarquable en raison de son importance dans le cadre juridique plus large de l'évaluation des procédures de sélection, ainsi que de son utilité pour déterminer l'efficacité d'un outil de sélection. Pour ces raisons, il est fréquemment recommandé aux organisations d'envisager la validation.
Comme de nombreuses lois adoptées et proposées sur les AEDT, la loi de Washington D.C. "Stop Discrimination by Algorithms Act of 2023" exige également que les candidats soient informés qu'un AEDT sera utilisé pour la sélection avant qu'un outil basé sur un algorithme ne soit utilisé. Dans sa version actuelle, la proposition de loi indique que l'avis doit :
- Inclure des informations sur la manière dont les informations personnelles sont utilisées dans les déterminations algorithmiques de l'éligibilité,
- être clair, concis et complet - et être disponible en anglais et dans toute langue autre que l'anglais parlée par au moins 500 personnes de la population de Washington D.C,
- être mis à jour dans les 30 jours suivant la modification par l'organisation de ses pratiques de collecte ou d'utilisation, et
- être disponible en permanence et de manière visible sur le site web de l'entreprise.
Un audit sur les préjugés doit être réalisé chaque année et soumis au bureau du procureur général du district de Columbia. Si l'audit identifie des risques ou un impact disparate illégal, il doit également identifier les mesures raisonnables à prendre pour remédier à ces risques.
La prise en compte des lois relatives à l'IA va au-delà des employeurs qui utilisent des évaluations basées sur l'IA. Elle englobe non seulement les organisations qui utilisent la technologie de l'IA dans leurs processus de sélection, mais aussi les fournisseurs responsables du développement de cette technologie. Prenons, par exemple, le projet de loi 4909 de l'Assemblée du New Jersey, qui impose une vérification des préjugés avant la vente d'un TEDA. Les résultats de cet audit doivent être fournis à l'acheteur, en même temps que l'outil, sans frais supplémentaires. Même lorsqu'un fournisseur n'est pas la cible principale d'une loi basée sur l'IA, son rôle est essentiel. Les fournisseurs jouent un rôle crucial en fournissant aux clients des informations sur leurs évaluations, en permettant à chaque employeur d'évaluer la pertinence de lois spécifiques pour leur utilisation et en s'assurant qu'ils possèdent les données nécessaires pour se conformer, souvent grâce à la réalisation d'un audit sur les préjugés.
L'utilisation des technologies basées sur l'IA dans le contexte de la sélection des employés suscite beaucoup d'activité. Bien que ce blog se soit concentré sur l'analyse des lois étatiques et locales visant à réglementer ce domaine, plusieurs forces convergentes dans l'espace fédéral façonneront de manière significative le paysage réglementaire au cours des 12 à 18 prochains mois, y compris le Décret sur le développement et l'utilisation sûrs, sécurisés et dignes de confiance de l'intelligence artificielle publié par la Maison Blanche le 30 octobre 2023. Ce paysage va continuer à se complexifier et nous verrons sans doute plus de choses dans ce domaine dans les mois et les années à venir.
Découvrez les dernières mises à jour législatives et les perspectives de conformité de notre partenaire stratégique, DCI Consulting Group. Leur Suivi de la législation des États fournit des informations actualisées sur les lois et règlements proposés et adoptés, ainsi que sur les implications et les conseils en matière de conformité.
1Selonun document FAQ fourni par la ville de New York, les avis doivent être publiés sur le site Internet de l'employeur au moins 10 jours avant la première utilisation de l'AEDT.
2 Il est à noter qu'une organisation n'est pas tenue de fournir une alternative non-AEDT, sauf si d'autres lois l'exigent (par exemple, l'Americans with Disabilities Act (ADA)).
Note de l'éditeur : Cet article a été publié à l'origine sur Circaworks.com. En avril 2023, Mitratech a acquis Circa, un fournisseur de premier plan de logiciels de recrutement inclusif et de conformité OFCCP. Le contenu a depuis été mis à jour pour refléter l'élargissement de nos offres de produits, l'évolution des réglementations de conformité en matière d'acquisition de talents et les meilleures pratiques en matière de gestion des ressources humaines.
