La inteligencia artificial (IA) sigue revolucionando muchos sectores, y el del empleo no es una excepción. Según la Sociedad para la Gestión de Recursos Humanos (SHRM)casi una de cada cuatro organizaciones utiliza la automatización o la IA para actividades relacionadas con los recursos humanos. Entre estas organizaciones, la mayoría (79%) aplica la IA específicamente en la selección (por ejemplo, procesos de reclutamiento y contratación). Existen diversos usos de la IA en la selección y contratación de empleados, como la automatización de la búsqueda de candidatos, la revisión o cribado de currículos, la preselección de candidatos para entrevistas, la administración o puntuación de evaluaciones de habilidades, la realización de entrevistas en vídeo y la administración y puntuación de evaluaciones basadas en juegos (SHRM, 2022).
Aunque el uso de la IA en el ámbito de la selección es cada vez mayor, no está exento de preocupaciones y críticas. Por ejemplo, las herramientas de IA pueden sufrir reacciones negativas si los algoritmos utilizados no son transparentes y explicables. En otras palabras, cuando los sistemas de IA son complejos y difíciles de entender, resulta difícil tanto para los candidatos como para los reclutadores (y a veces incluso para los desarrolladores de los algoritmos) comprender por qué se toman determinadas decisiones (Ravi, 2023). La falta de transparencia algorítmica puede disminuir la confianza en el proceso de reclutamiento o contratación y, como resultado, aumentar las preocupaciones sobre la imparcialidad y la responsabilidad (Ravi, 2023). La preocupación por la IA en la selección de empleados ha dado lugar a un aumento significativo de la regulación en este ámbito. Más recientemente, la Ley local 144 comenzó a aplicarse el 5 de julio de 2023. Esta ley se aplica a situaciones en las que se utiliza una Herramienta de Decisión de Empleo Automatizada (AEDT, por sus siglas en inglés) para contratar o promocionar a personas para un puesto de trabajo que se encuentra en una oficina en la ciudad de Nueva York, al menos a tiempo parcial; un puesto de trabajo que es totalmente remoto pero la ubicación asociada a él es una oficina en la ciudad de Nueva York; o cuando la ubicación de la agencia de empleo que utiliza la AEDT se encuentra en la ciudad de Nueva York.
La Ley Local 144 exige que un auditor independiente realice una auditoría anual de sesgos y que los resultados de la misma se publiquen en la página web de la empresa. La ley también exige que se notifique a los candidatos1 de la utilización por parte de una organización de un AEDT en el proceso de selección, incluidas las cualificaciones y características del puesto que evalúa el AEDT, el tipo de datos utilizados, la fuente de dichos datos, la política de conservación de datos de la organización e instrucciones sobre cómo pueden solicitar los solicitantes un proceso de selección alternativo o adaptaciones.2 Vale la pena señalar que NYC define el concepto de un AEDT de una manera que se extiende más allá de los métodos de IA como el aprendizaje automático y el procesamiento del lenguaje natural. Esta ley puede aplicarse no sólo a los procedimientos de selección que utilizan estas tecnologías avanzadas, sino también a muchos procedimientos existentes que se basan en algoritmos complejos. Todos estos procesos deben alinearse con esta ley para garantizar su cumplimiento.
La ley de la ciudad de Nueva York es sólo la punta del iceberg en lo que se refiere a la regulación del uso de la IA en la selección de empleados; es probable que sigamos viendo nuevas leyes estatales y locales al respecto propuestas y promulgadas en un futuro previsible. Hay varias leyes de este tipo en vigor o en estudio. El Rastreador de Legislación Estatal de DCI ofrece una visión general de cada una de ellas. Además de la Ley Local 144, hay otras tres leyes en este ámbito actualmente en vigor. Estas leyes exigen el consentimiento del solicitante antes de que pueda utilizarse la tecnología basada en la IA (por ejemplo, la Ley de Entrevistas por Vídeo de Illinois y el Proyecto de Ley 1202 de la Cámara de Representantes de Maryland) o exigen un inventario de la tecnología de IA utilizada por los organismos estatales (por ejemplo, el Proyecto de Ley 1103 del Senado de Connecticut).
Las leyes actualmente en fase de propuesta, seis en total en el momento de escribir este blog, pueden suponer una carga sustancialmente mayor para las organizaciones. Cada una de estas leyes propuestas centradas en la AEDT incluye alguna referencia a la necesidad de explicabilidad y transparencia algorítmicas, así como un requisito de notificación al solicitante. Algunas también incluyen análisis de impacto adverso (es decir, una "auditoría de sesgo"), consideración de la relación con el trabajo (es decir, validez), provisión de alternativas y cláusulas de privacidad y/o retención de datos.
A continuación, profundizamos en las dos propuestas de ley más avanzadas en su proceso de elaboración -una en California y otra en Washington D.C.-, en las que probablemente veremos una mayor actividad durante el próximo año.
La propuesta de ley de California, que entrará en vigor el 1 de enero de 2025, exige una notificación, la realización de una auditoría de prejuicios y su presentación al Departamento de Derechos Civiles de California, y una evaluación alternativa, no AEDT, para los candidatos que opten por no someterse a la AEDT "si es técnicamente factible". En su redacción actual, la ley propuesta indica que la auditoría de sesgo debe incluir:
- Una declaración de la finalidad de la IA y sus beneficios previstos,
- Una descripción de los resultados de la AEDT y de cómo se utilizan,
- Resumen del tipo de datos recogidos y tratados,
- En qué medida el uso de AEDT es coherente con la declaración de uso del promotor (es decir, uso real frente a uso previsto),
- Un análisis del posible impacto adverso sobre las categorías protegidas (subgrupos),
- Una descripción de las salvaguardias aplicadas para mitigar el riesgo,
- Una descripción de cómo se utilizará o supervisará la AEDT, y
- Información sobre cómo se evaluará la validez o pertinencia laboral de la IA.
La adición del mandato de evaluar la validez y la pertinencia laboral de la AEDT, en concreto, distingue a esta ley de muchas otras leyes centradas en la IA. El requisito de evaluar la validez es digno de mención dada su importancia en el marco jurídico más amplio de evaluación de los procedimientos de selección, así como su utilidad para determinar la eficacia de una herramienta de selección. Por estas razones, la validación es algo que se recomienda con frecuencia a las organizaciones que tengan en cuenta.
Al igual que muchas de las leyes sobre AEDT promulgadas y propuestas, la "Ley para acabar con la discriminación por algoritmos de 2023" de Washington, D.C., también exige que se notifique a los solicitantes que se utilizará una AEDT en la selección antes de utilizar cualquier herramienta basada en algoritmos. En su redacción actual, la ley propuesta indica que el aviso debe:
- Incluir información sobre cómo se utiliza la información personal en las determinaciones algorítmicas de elegibilidad,
- Ser clara, concisa y completa, y estar disponible en inglés y en cualquier lengua no inglesa hablada por al menos 500 personas de la población de Washington D.C,
- Actualizarse en un plazo de 30 días después de que una organización cambie sus prácticas de recopilación o uso, y
- Estar disponible de forma continua y visible en el sitio web de la empresa.
Anualmente debe realizarse una auditoría de prejuicios y presentarse a la Oficina del Fiscal General de D.C. Si en la auditoría se identifican riesgos o impactos dispares ilegales, la auditoría también debe incluir una identificación de medidas razonables para abordar dichos riesgos.
La consideración de las leyes relacionadas con la IA va más allá de los empleadores que utilizan evaluaciones basadas en la IA. Abarca no sólo a las organizaciones que emplean tecnología de IA en sus procesos de selección, sino también a los proveedores responsables del desarrollo de dicha tecnología. Tomemos, por ejemplo, el proyecto de ley 4909 de la Asamblea de Nueva Jersey, que obliga a realizar una auditoría de sesgos antes de la venta de un AEDT. Los resultados de esta auditoría deben facilitarse al comprador, junto con la herramienta, sin coste adicional. Incluso cuando un proveedor no es el objetivo principal de una ley basada en la IA, su papel es fundamental. Los proveedores desempeñan un papel crucial a la hora de proporcionar a los clientes información sobre sus evaluaciones, lo que permite a cada empleador evaluar la relevancia de leyes específicas para su uso y garantizar que poseen los datos necesarios para el cumplimiento, a menudo logrado mediante la realización de una auditoría de sesgo.
Hay mucha actividad en torno al uso de tecnología basada en IA en el contexto de la selección de empleados. Si bien este blog se centraba en el análisis de las leyes estatales y locales que tratan de regular este ámbito, varias fuerzas convergentes en el ámbito federal configurarán de manera significativa el panorama normativo en los próximos 12-18 meses, entre ellas el Orden Ejecutiva sobre el Desarrollo y Uso Seguro y Fiable de la Inteligencia Artificial publicada por la Casa Blanca el 30 de octubre de 2023. Este panorama seguirá volviéndose más complejo, y sin duda veremos más en este espacio en los próximos meses y años.
Conozca las últimas novedades legislativas y las perspectivas de cumplimiento de nuestro socio estratégico, DCI Consulting Group. Su Rastreador de legislación estatal ofrece información actualizada sobre leyes y reglamentos propuestos y promulgados, así como implicaciones y orientaciones para su cumplimiento.
1 Segúnun documento de preguntas frecuentes facilitado por la ciudad de Nueva York, los avisos deben publicarse en el sitio web de empleo de la empresa al menos 10 días antes del primer uso del AEDT.
2 En particular, una organización no está obligada a proporcionar una alternativa no AEDT a menos que sea requerido por otras leyes (por ejemplo, la Ley de Estadounidenses con Discapacidades (ADA)).
Nota del Editor: Este post fue publicado originalmente en Circaworks.com. En abril de 2023, Mitratech adquirió Circa, un proveedor líder de software de reclutamiento inclusivo y cumplimiento de OFCCP. El contenido ha sido actualizado desde entonces para reflejar nuestra oferta ampliada de productos, la evolución de las regulaciones de cumplimiento de adquisición de talento y las mejores prácticas en la gestión de RRHH.
