人工智能（AI）不断给许多行业带来变革，就业领域也不例外。根据 人力资源管理协会（SHRM）的数据，几乎四分之一的组织在人力资源相关活动中使用自动化或人工智能。在这些组织中，大多数（79%）将人工智能具体应用于选拔（如招聘和录用流程）。人工智能在员工甄选和招聘中的应用多种多样，包括自动搜索申请人、审查或筛选申请人简历、预选面试申请人、实施技能评估或为技能评估打分、进行视频面试，以及实施基于游戏的评估并为其打分（SHRM，2022 年）。
虽然人工智能在选拔领域的应用越来越多，但也并非没有担忧和批评。例如，如果所使用的算法缺乏透明度和可解释性，人工智能工具可能会面临反弹。换句话说，当人工智能系统复杂难懂时，候选人和招聘人员（有时甚至是算法开发人员）都很难理解为什么会做出某些决定（Ravi，2023）。拉维，2023 年).缺乏算法透明度可能会降低对招聘或录用过程的信任，从而增加对公平性和问责制的担忧（Ravi，2023 年）。人工智能在员工甄选方面的问题已导致该领域的监管大幅增加。最近，纽约市的 第 144 号地方法律于 2023 年 7 月 5 日开始实施。该法适用于以下情况：使用自动雇佣决策工具（AEDT）来雇佣或晋升个人，而该工作位于纽约市的办公室内，至少是兼职的；工作完全是远程的，但与之相关的地点是纽约市的办公室；或使用 AEDT 的职业介绍所位于纽约市。
第 144 号地方法律要求由独立审计员进行年度偏见审计，审计结果必须在雇主网站上公开发布。法律还要求 应通知申请人1包括 AEDT 所评估的工作资格和特征、所使用的数据类型、此类数据的来源、组织的数据保留政策，以及申请人如何申请替代遴选流程或便利的说明。值得注意的是，纽约市对 AEDT 概念的定义超越了机器学习和自然语言处理等人工智能方法。这项法律不仅适用于使用这些先进技术的遴选程序，也适用于许多依赖复杂算法的现有程序。所有此类程序都必须与本法保持一致，以确保合规。
纽约市的法律只是规范在员工甄选中使用人工智能的冰山一角；在可预见的未来，我们很可能会继续看到新的州和地方法律被提出和颁布。目前已有多部此类法律生效或正在审议中。 DCI 的州立法跟踪提供了每项法律的概述。除第 144 号地方法律外，该领域还有其他三部法律正在颁布。这些法律要么要求在使用基于人工智能的技术之前征得申请人的同意（如伊利诺伊州的《视频访谈法案》和马里兰州的《众议院法案 1202》），要么要求对州机构使用的人工智能技术进行清查（如康涅狄格州的《参议院法案 1103》）。
目前处于拟议阶段的法律（截至本博客撰写之时共有六部）可能会给组织带来更多负担。这些拟议的以 AEDT 为重点的法律中，每一条都在一定程度上提到了算法可解释性和透明度的必要性，以及申请人通知要求。有些还包括不利影响分析（即 "偏见审计"）、工作相关性考虑（即有效性）、提供替代方案以及数据隐私和/或数据保留条款。
在下文中，我们将更深入地探讨两部拟议中的法律--一部在加利福尼亚州，一部在华盛顿特区--在这两部法律的制定过程中，我们可能会看到明年的活动会越来越多。
加利福尼亚州的拟议法律将于 2025 年 1 月 1 日生效，将要求发出通知、进行偏见审核并提交给加利福尼亚州民权部门，以及 "在技术可行的情况下 "为选择不参加 AEDT 的候选人提供替代性的非 AEDT 评估。按照目前的写法，拟议的法律指出偏见审核必须包括：
- 说明人工智能的目的及其预期效益、
- 关于 AEDT 输出及其使用方法的说明、
- 收集和处理的数据类型概要、
- AEDT 的使用在多大程度上符合开发商的使用声明（即实际使用与预期使用）、
- 分析对受保护类别（亚群体）的潜在不利影响、
- 说明为降低风险而实施的保障措施、
- 说明将如何使用或监测 AEDT，以及
- 关于如何评估人工智能的有效性或工作相关性的信息。
特别是增加了对 AEDT 的有效性和工作相关性进行评估的任务，使这项法律有别于其他许多以人工智能为中心的法律。评估有效性的要求值得注意，因为它在评估甄选程序的更广泛的法律框架中具有重要意义，而且对于确定甄选工具的有效性也很有用。出于这些原因，验证是经常建议各组织考虑的事项。
与许多已颁布和拟议的 AEDT 法律一样，华盛顿特区的 "2023 年制止算法歧视法案 "也要求在使用任何基于算法的工具之前，通知申请人将在选择中使用 AEDT。按照目前的写法，拟议的法律指出通知必须：
- 包括在算法资格确定中如何使用个人信息的信息、
- 清晰、简洁、完整，并以英语和华盛顿特区人口中至少 500 人使用的任何非英语语言提供、
- 在组织改变其收集或使用方法后 30 天内进行更新，以及
- 在公司网站的显著位置持续提供。
如果在审计中发现任何风险或不合法的差别影响，审计还必须包括确定合理的措施来应对这些风险。
对人工智能相关法律的考虑不仅仅局限于使用人工智能评估的雇主。它不仅包括在选拔过程中采用人工智能技术的组织，还包括负责开发此类技术的供应商。以新泽西州的第 4909 号议会法案为例，该法案规定在销售 AEDT 之前必须进行偏见审计。审计结果必须提供给购买者，并与工具捆绑在一起，不收取额外费用。 即使供应商不是人工智能法律的主要目标，他们的作用也是举足轻重的。供应商在向客户提供评估信息方面发挥着至关重要的作用，使每个雇主都能评估特定法律与其使用的相关性，并确保他们拥有合规所需的数据，这通常是通过完成偏差审计来实现的。
围绕人工智能技术在员工甄选方面的应用，出现了很多新的动态。虽然本博客的重点是解读各州和地方寻求规范这一领域的法律，但联邦领域的几股汇聚力量将在未来 12-18 个月内极大地影响监管格局，其中包括 关于安全、可靠地开发和使用人工智能的行政命令白宫于 2023 年 10 月 30 日发布。这一格局将继续变得更加复杂，毫无疑问，在未来数月和数年内，我们将在这一领域看到更多内容。
探索我们的战略合作伙伴提供的最新立法更新和合规见解、 DCI 咨询集团。 他们 州立法跟踪 提供有关拟议和已颁布的法律法规的最新信息，以及对合规的影响和指导。
1 根据纽约市提供的常见问题文件，必须在首次使用 AEDT 前至少 10 天在雇主的工作网站上发布通知。
2值得注意的是，除非其他法律（如《美国残疾人法案》（ADA））要求，否则不要求组织提供非 AEDT 替代方案。
编者按：本文最初发表于 Circaworks.com。2023 年 4 月，Mitratech 收购了包容性招聘和 OFCCP 合规软件的领先供应商 Circa。此后，我们对内容进行了更新，以反映我们扩大的产品范围、不断发展的人才招聘合规法规以及人力资源管理的最佳实践。
