La inteligencia artificial (IA) sigue revolucionando muchos sectores, y el ámbito laboral no es una excepción. Según la Sociedad para la Gestión de Recursos Humanos (SHRM), casi una de cada cuatro organizaciones utiliza la automatización o la IA para actividades relacionadas con los recursos humanos. Entre estas organizaciones, la mayoría (79 %) aplica la IA específicamente en la selección (por ejemplo, en los procesos de reclutamiento y contratación). Existen diversos usos de la IA en la selección y contratación de empleados, entre los que se incluyen la automatización de la búsqueda de candidatos, la revisión o selección de currículos, la preselección de candidatos para entrevistas, la administración o puntuación de evaluaciones de habilidades, la realización de entrevistas en vídeo y la administración y puntuación de evaluaciones basadas en juegos (SHRM, 2022).
Aunque el uso de la IA en el ámbito de la selección está aumentando, no está exento de preocupaciones y críticas. Por ejemplo, las herramientas de IA pueden enfrentarse a reacciones negativas si hay una falta de transparencia y explicabilidad en los algoritmos utilizados. En otras palabras, cuando los sistemas de IA son complejos y difíciles de entender, resulta complicado tanto para los candidatos como para los reclutadores (y a veces incluso para los desarrolladores de algoritmos) comprender por qué se toman determinadas decisiones (Ravi, 2023). La falta de transparencia algorítmica puede disminuir la confianza en el proceso de selección o contratación y, como resultado, aumentar las preocupaciones sobre la equidad y la responsabilidad (Ravi, 2023). Las preocupaciones sobre la IA en la selección de empleados han dado lugar a un aumento significativo de la regulación en este ámbito. Más recientemente, la Ley Local 144 entró en vigor el 5 de julio de 2023. Esta ley se aplica a situaciones en las que se utiliza una herramienta automatizada de decisión de empleo (AEDT) para contratar o ascender a personas para un puesto de trabajo que se encuentra en una oficina de la ciudad de Nueva York, al menos a tiempo parcial; un puesto de trabajo que es totalmente remoto, pero cuya ubicación asociada es una oficina en la ciudad de Nueva York; o cuando la ubicación de la agencia de empleo que utiliza la AEDT se encuentra en la ciudad de Nueva York.
La Ley Local 144 exige que un auditor independiente realice una auditoría anual sobre sesgos y que los resultados de la misma se publiquen en el sitio web del empleador. La ley también exige que senotifique a los solicitantes1 del uso de un AEDT por parte de la organización en el proceso de selección, incluyendo las cualificaciones y características del puesto que evalúa el AEDT, el tipo de datos utilizados, la fuente de dichos datos, la política de retención de datos de la organización e instrucciones sobre cómo los solicitantes pueden solicitar un proceso de selección alternativo o una adaptación.2 Cabe señalar que la ciudad de Nueva York define el concepto de AEDT de una manera que va más allá de los métodos de IA como el aprendizaje automático y el procesamiento del lenguaje natural. Esta ley puede aplicarse no solo a los procedimientos de selección que utilizan estas tecnologías avanzadas, sino también a muchos procedimientos existentes que se basan en algoritmos complejos. Todos estos procesos deben ajustarse a esta ley para garantizar su cumplimiento.
La ley de la ciudad de Nueva York es solo la punta del iceberg en lo que respecta a la regulación del uso de la IA en la selección de empleados; es probable que sigamos viendo nuevas leyes estatales y locales sobre este tema propuestas y promulgadas en un futuro próximo. Hay varias leyes de este tipo en vigor o en fase de estudio. El rastreador de legislación estatal de DCI ofrece una visión general de cada una de ellas. Además de la Ley Local 144, hay otras tres leyes en este ámbito actualmente promulgadas. Estas leyes exigen el consentimiento del solicitante antes de poder utilizar tecnología basada en IA (por ejemplo, la Ley de Entrevistas en Vídeo de Illinois y el Proyecto de Ley 1202 de la Cámara de Representantes de Maryland) o exigen un inventario de la tecnología de IA utilizada por los organismos estatales (por ejemplo, el Proyecto de Ley 1103 del Senado de Connecticut).
Las leyes que actualmente se encuentran en fase de propuesta, seis en total en el momento de redactar este blog, pueden suponer una carga considerablemente mayor para las organizaciones. Cada una de estas leyes propuestas centradas en la AEDT incluye alguna referencia a la necesidad de explicabilidad y transparencia algorítmica, así como un requisito de notificación al solicitante. Algunas también incluyen análisis de impacto adverso (es decir, una «auditoría de sesgos»), la consideración de la relación con el trabajo (es decir, la validez), la provisión de alternativas y cláusulas de privacidad y/o retención de datos.
A continuación, profundizamos en las dos leyes propuestas que se encuentran en una fase avanzada del proceso de desarrollo, una en California y otra en Washington D. C., donde es probable que veamos una mayor actividad durante el próximo año.
La ley propuesta por California, que entrará en vigor el 1 de enero de 2025, exigirá una notificación, la realización de una auditoría de sesgos que se presentará al Departamento de Derechos Civiles de California y una evaluación alternativa, distinta de la AEDT, para los candidatos que opten por no participar en la AEDT «si es técnicamente viable». Tal y como está redactada actualmente, la ley propuesta indica que la auditoría de sesgos debe incluir:
- Una declaración de intenciones sobre la IA y los beneficios que se pretenden obtener con ella.
- Una descripción de los resultados del AEDT y cómo se utilizan.
- Un resumen del tipo de datos recopilados y procesados,
- El grado en que el uso del AEDT es coherente con la declaración de uso del desarrollador (es decir, uso real frente a uso previsto).
- Un análisis del posible impacto adverso en las categorías protegidas (subgrupos),
- Una descripción de las medidas de protección implementadas para mitigar el riesgo.
- Una descripción de cómo se utilizará o supervisará el AEDT, y
- Información sobre cómo se evaluará la validez o la relevancia laboral de la IA.
La incorporación del mandato de evaluar la validez y la pertinencia laboral de la AEDT, en concreto, distingue esta ley de muchas otras leyes centradas en la IA. El requisito de evaluar la validez es digno de mención dada su importancia en el marco jurídico más amplio para evaluar los procedimientos de selección, así como su utilidad para determinar la eficacia de una herramienta de selección. Por estas razones, la validación es algo que se recomienda con frecuencia a las organizaciones que deben tener en cuenta.
Al igual que muchas de las leyes AEDT promulgadas y propuestas, la «Ley contra la discriminación por algoritmos de 2023» de Washington D. C. también exige que se notifique a los solicitantes que se utilizará un AEDT en la selección antes de utilizar cualquier herramienta basada en algoritmos. Tal y como está redactada actualmente, la ley propuesta indica que la notificación debe:
- Incluya información sobre cómo se utiliza la información personal en las determinaciones algorítmicas de elegibilidad.
- Sea claro, conciso y completo, y esté disponible en inglés y en cualquier idioma distinto del inglés que hablen al menos 500 personas de la población de Washington D.C.
- Actualizarse en un plazo de 30 días después de que una organización cambie sus prácticas de recopilación o uso, y
- Estar disponible de forma continua y visible en el sitio web de la empresa.
Se debe realizar una auditoría de sesgos anualmente y enviarla a la Oficina del Fiscal General de D.C. Si en la auditoría se identifican riesgos o impactos dispares ilegales, la auditoría también debe incluir una identificación de medidas razonables para abordar dichos riesgos.
La consideración de las leyes relacionadas con la IA va más allá de los empleadores que utilizan evaluaciones basadas en la IA. Abarca no solo a las organizaciones que emplean tecnología de IA en sus procesos de selección, sino también a los proveedores responsables de desarrollar dicha tecnología. Tomemos, por ejemplo, el proyecto de ley 4909 de la Asamblea de Nueva Jersey, que exige una auditoría de sesgos antes de la venta de una AEDT. Los resultados de esta auditoría deben proporcionarse al comprador, junto con la herramienta, sin coste adicional. Incluso cuando un proveedor no es el objetivo principal de una ley basada en la IA, su papel es fundamental. Los proveedores desempeñan un papel crucial a la hora de proporcionar a los clientes información sobre sus evaluaciones, lo que permite a cada empleador evaluar la relevancia de leyes específicas para su uso y garantizar que disponen de los datos necesarios para el cumplimiento, lo que a menudo se consigue mediante la realización de una auditoría de sesgos.
Hay mucha actividad en torno al uso de la tecnología basada en la inteligencia artificial en el contexto de la selección de empleados. Si bien este blog se ha centrado en analizar las leyes estatales y locales que tratan de regular este ámbito, varias fuerzas convergentes en el ámbito federal configurarán de manera significativa el panorama normativo durante los próximos 12-18 meses, incluida la Orden Ejecutiva sobre el desarrollo y uso seguro y fiable de la inteligencia artificial publicada por la Casa Blanca el 30 de octubre de 2023. Este panorama seguirá complicándose y, sin duda, veremos más novedades en este ámbito en los próximos meses y años.
Explore las últimas novedades en materia de actualizaciones legislativas y conocimientos sobre cumplimiento normativo de nuestro socio estratégico, DCI Consulting Group. Su State Legislation Tracker proporciona información actualizada sobre las leyes y normativas propuestas y promulgadas, así como las implicaciones y la orientación para su cumplimiento.
1Segúnun documento de preguntas frecuentes proporcionado por la ciudad de Nueva York, los avisos deben publicarse en el sitio web de empleo del empleador al menos 10 días antes del primer uso del AEDT.
2 Cabe destacar que las organizaciones no están obligadas a ofrecer una alternativa al AEDT, salvo que así lo exijan otras leyes (por ejemplo, la Ley de Estadounidenses con Discapacidades, ADA).
Nota del Editor: Este post fue publicado originalmente en Circaworks.com. En abril de 2023, Mitratech adquirió Circa, un proveedor líder de software de reclutamiento inclusivo y cumplimiento de OFCCP. El contenido ha sido actualizado desde entonces para reflejar nuestra oferta ampliada de productos, la evolución de las regulaciones de cumplimiento de adquisición de talento y las mejores prácticas en la gestión de RRHH.
