人力资源部门如何建立人们真正信任的人工智能系统？

1.以终为始

在深入研究人工智能之前，请明确您要解决的问题以及原因。设定明确的结果和成功标准（如采用率或减少管理时间），以便从一开始就与团队保持一致。同样重要的是：了解你的利益相关者。除员工外，还包括 IT、法务、风险和合规人员，以便尽早就要求达成一致。

其次，确定护栏，换句话说，就是指导方针、限制和安全措施，以防止出现有害结果，如将有偏见或不恰当的内容提供给用户。例如，Mitatech Mineral 的 ARIES HR 数字助理在设计时有意排除了解雇决策或骚扰投诉解决等主题，我们知道这些主题需要专家根据细微差别和上下文提供指导。这样的防护措施可以保护用户和企业，尤其是在法规不断出台的情况下。他们建议，不要一开始就追求最大的投资回报率，而是从小规模开始，尽早验证价值，建立信任，并明智地进行扩展。

主要启示

• 预先确定人工智能用例和成功指标。
• 尽早让 IT、法律、合规和风险团队参与进来。
• 有意识地确定工具的范围，护栏会产生信任感。
• 从小事做起，建立动力和内部信任。

2.为正确的团队赋权

人工智能在人力资源领域的成功并非始于技术，而是始于人。Aimee Pedretti 在现场分享的最重要的经验之一就是这一点：人力资源部门需要从一开始就融入到人工智能项目中，而不是在最后才作为审查者加入进来。

根据她自己的经验，深入参与技术团队，学习他们的语言，了解工具的底层架构，有助于她以赢得信任和塑造更好结果的方式宣传人力资源需求。对于人力资源专业人员来说，产品创新的思维模式可能是全新的，他们对快速迭代和产品功能优先级的适应程度也可能各不相同。

在建设新事物的过程中，会遇到不确定性、紧张、愿意失败和共同学习。这需要团队的心理安全。Aimee 强调了为人们创造一个安全空间的重要性，让他们能够畅所欲言、尝试新事物，并始终专注于共同目标，即使是在舒适区之外。

主要启示

• 人力资源部门必须从一开始就融入人力资源人工智能项目，而不仅仅是审查产出。
• 建立一个跨职能团队，让人力资源专家和技术专家并肩协作。
• 鼓励心理安全，以支持学习、提问和迭代。
• 让人力资源领导者掌握人工智能技术的语言（如产品和工程），从而更好地倡导以人为本的解决方案。
• 设定明确的预期：早期版本并不完美，这是过程的一部分。

3: 审计和质量至关重要

人工智能工具的质量和信任度取决于 "人在回路中"（HITL）方法。人力资源部门根据他们的主题专长、合规知识以及组织文化和价值观，帮助设计人工智能工具。
从第一天起，Aimee 的团队就将领域专家与技术工程师并列在一起，参与到每一个阶段：从评估基础模型（"LLM bake-off"）到编写和完善系统提示，再到持续测试和完善。这种深入的合作关系有助于弥合不同的思维模式，工程师可能会将准确率达到 95% 的人工智能输出视为胜利，而人力资源领导者则知道，缺少 5% 的准确率可能会带来真正的风险。

质量保证是一个持续的过程。团队创建了一个结构化的审查流程，由人工评级员持续评估人工智能生成的输出结果的准确性、清晰度和偏差。定期校准培训可确保 HITL 评测人员的一致性。

HITL 的最终目的是在概念验证或测试阶段帮助改进人工智能工具，并建立用户信任。由于人工智能工具在不断发展、政策在不断变化、内容在不断变化，因此质量审核必须持续进行。HITL 可确保人工智能在首次发布后长期保持相关性、责任性和准确性。

主要启示

• 让领域专家贯穿整个人工智能生命周期，而不仅仅是在最后阶段。
• 通过校准的人工审核，创建可重复的质量保证流程。
• 经常测量输出的准确性、清晰度和偏差。
• 计划如何在一段时间内识别、标记和修复错误。
• 为持续改进而建设，而不是一劳永逸的启动。

4：准备人，而不仅仅是平台

变革管理是将人工智能融入人力资源的关键一环，它值得关注的程度远超过我们在此所能涵盖的范围。关键见解是什么？人工智能会转变角色，而不是取而代之。现在，在构建和测试阶段，要做的工作实际上更多了，而不是更少了，这为参与开发的人力资源专家提供了工作保障。

随着时间的推移，工作会不断发展，人力资源专业人员可以专注于更多以人为中心的任务，而人工智能则负责处理日常琐碎的工作。担心失去工作或被滥用是很自然的。透明度至关重要：领导层清晰、有意的沟通有助于缓解恐惧和不确定性。

不仅仅是人力资源团队需要得到保证，管理人员和邻近的利益相关者也需要了解情况并参与其中。参与这一过程并随时了解情况的人往往会更有信心，更少受到人工智能影响的威胁。

主要启示

• 人工智能会转变角色，但不会取代人工；更多的工作发生在开发阶段。
• 领导层透明的沟通可以建立信任，缓解恐惧。
• 让管理人员和所有利益相关者参与变革对话。
• 尽早让团队参与进来，创建共同的旅程，减少不确定性。
• 强调不断发展的人力资源角色以人为本的价值。

5：通过设计打造负责任的人工智能

负责任的人工智能绝对至关重要。创建人工智能工具的一个关键原则是使用可信来源，而不是 "黑盒 "模型。与一些只给出答案而不解释其来源的生成式人工智能工具不同，负责任的人工智能解决方案必须说明答案的来源。例如，Mitatech Mineral 的 ARIES HR 数字助理只使用 Mineral 平台上由律师团队撰写的内容，并提供这些源文件的链接。

另一个重要方面是可解释性：理解人工智能决策背后的逻辑和规则。这一点对于候选人筛选等应用尤为重要，在这些应用中，流程必须清晰明了，以确保公平性并符合隐私和其他适用法规。

主要启示

• 创建和使用来源透明、可信的人工智能系统，避免使用 "黑盒 "工具。
• 优先考虑可解释性，以追踪人工智能决策，尤其是在敏感的人力资源流程中。

下一页在整个组织中嵌入 HITL

从构建人工智能工具中汲取的经验教训指向了一个更大的转变：将 "人在回路中"（HITL）思维嵌入日常工作中。本系列的最后一篇博客将探讨为什么批判性思维是人工智能时代人力资源领导者最紧迫的优先事项。