回顾 ChatGPT(聊天机器人生成预训练转换器)的一年--展望全球对人工智能的反应以及需要哪些治理 "护栏"。
回顾 ChatGPT(聊天机器人生成预训练转换器)的一年--展望全球对人工智能的反应以及需要哪些治理 "护栏"。

生日快乐,ChatGPT!庆祝人工智能治理 10 大里程碑一周年

Vivian Susko |

回顾 ChatGPT(聊天机器人生成预训练转换器)的一年--展望全球对人工智能的反应以及需要哪些治理 "护栏"。

2023 年 11 月 30 日,全球将迎来 ChatGPT 上市一周年。为了纪念这 12 个月以及人工智能技术创新和应用 "时代的到来",我们将回顾围绕其发布的 10 个主要市场和监管里程碑(排名不分先后)。

全球呼吁人工智能治理--多年酝酿

早在 ChatGPT 首次亮相之前,人们就已经开始采取措施,通过有关人工智能治理的立法。2021 年 4 月,欧盟委员会提出了首个欧盟人工智能监管框架(《欧盟人工智能监管框架》)。#1).此后,他们重新审视了这一问题,并采取了重大举措,通过了可能是 世界上第一批关于人工智能治理的立法旨在为人工智能技术的社会、道德和经济治理制定全球标准。

不过,我们会说到这一点的。首先,让我们快速浏览一下 ChatGPT 发布前的一些全球监管活动。

#2 - 2019年1月 - 新加坡人工智能示范框架和人工智能治理测试工具包

2019 年 1 月 23 日,在瑞士达沃斯举行的 2019 年世界经济论坛年会上,新加坡首次发布了第一版《人工智能治理框架范本》。

此后,新加坡一直是人工智能治理活动的主要参与者: 2022 年 5 月 25 日,新加坡启动了 全球首个人工智能治理测试框架和工具包["AI Verify"] (#3)该指南适用于希望以客观、可验证的方式展示负责任地使用人工智能的公司。

#4 - 2019年5月 - 经合组织人工智能系统的原则和分类

第一套标准来自 经合组织对人工智能系统进行分类、 该框架于 2019 年 5 月推出,旨在帮助政策制定者根据这些预先确定的原则对人工智能系统进行定性。该框架定义了一套明确的目标,旨在建立对人工智能系统的共同理解,为数据清单提供信息,支持特定部门的框架,并协助风险管理和风险评估。

#5 - 2022 年 6 月 - 加拿大人工智能法草案

2022 年 6 月,加拿大政府 提交《人工智能与数据法》(AIDA),作为《2022 年数字宪章实施法》(C-27 法案)的一部分.在制定和采用新的人工智能管理标准方面,加拿大仍然是欧洲联盟和美国等国际伙伴的有力合作者。

2022:ChatGPT 进入不断发展的人工智能领域的一年

2022 年 11 月 - ChatGPT 发布

2022 年 11 月 30 日,OpenAI 推出了基于大型语言模型的聊天机器人 ChatGPT,并迅速掀起了热潮。五天之内,该平台吸引了 超过一百万用户.(推特花了 2 年时间才达到这一指标)。

2022 年 12 月 - ChatGPT 用户突破 1 亿

ChatGPT 成为历史上增长最快的消费者互联网应用平台,因为它 在发布后的几个月内,用户数量估计达到了 1 亿。

微软等大公司抓住机会,将人工智能纳入其应用程序(尽管并非所有人都像微软那样与OpenAI达成了数年、数十亿美元的交易)。最近,谷歌斥资 $3 亿美元收购了位于旧金山的生成式人工智能初创公司 Anthropic 的 10% 股份,Anthropic 是 OpenAI 研究人员于 2021 年创立的一家公司,其智能聊天机器人名为 Claude、 据《金融时报》报道.

#6 - 2023 年 1 月 - NIST 发布人工智能风险管理框架

美国国家标准与技术研究院(NIST)发布了 NIST 人工智能风险管理框架 (AI RMF 1.0) 2023 年 1 月 26 日星期四。该框架专为自愿使用而设计,有助于提高围绕人工智能产品、服务和系统的设计、开发、使用和评估的透明度和信任度。

#7 - 2023 年 2 月 - ISO 23894

国际标准化组织(ISO)于 2023 年 2 月 6 日发布了人工智能(AI)风险管理指南,为任何开发、部署或使用人工智能系统管理风险的组织提供指导。

保持人力资源政策合规

#8 - 2023 年 3 月 22 日 - 一封人工智能关注信

33,000 多名科技领袖共同签署了 公开信 警告说,基因人工智能(genAI)会给社会带来大规模风险。虽然这封信的实际影响很小,但相信它启发了我们最近在全球范围内看到的一些监管活动(如 欧盟人工智能法).

#9 - 2023 年 10 月 - 关于安全、可靠和值得信赖的人工智能的行政命令

乔-拜登总统签署了首份人工智能行政令 在 2023 年 10 月 30 日为人工智能的使用制定新的安全标准、安全防范措施和未来指导方针。

在白宫的一次官方讲话中,该人工智能行政令被认为是 "世界上任何政府在人工智能安全、安保和信任方面所采取的最强有力的一系列行动",它已经取得了以下成果 15 家美国大型科技公司 同意实施自愿性人工智能安全要求。"白宫办公厅副主任布鲁斯-里德(Bruce Reed)说:"这是一项积极战略的下一步,我们将在各条战线上竭尽全力,利用人工智能的优势,降低风险。

#10 - 2023 年 11 月 - 英国人工智能峰会

英国主办人工智能安全峰会 11 月,国际政府、领先的人工智能公司、民间团体和研究专家齐聚一堂。英国首相苏纳克(Rishi Sunak)及其政府提出了 "布莱切利宣言"。该宣言由出席峰会的 28 个国家(包括美国)的代表签署,承认了管理人工智能系统的危险和责任。下一届人工智能安全峰会计划于六个月后在韩国举行,六个月后在法国举行后续会议。

(奖金)2023 年 11 月 - ChatGPT 1 周岁

今天,我们来到了 2023 年 11 月。ChatGPT 现已推出一年,围绕人工智能治理的监管活动仍在不断增加。

我们只会看到越来越多的人以创新的方式推动人工智能的发展,而这也有可能使他们的公司面临新的风险。我们预测,2024 年企业需要应对更多的监管评论,这让全球企业通常都会头疼如何应对多重监管议程。尽管如此,我们看到企业认识到有必要提前应对人工智能的风险,并设置适当的防范措施。例如,我们看到企业正在积极主动地掌握人工智能在其业务中的使用情况,创建人工智能应用清单,并开始建立人工智能治理框架。

网络风险管理计划

人工智能的成功治理

制定有效、可衡量和可辩护的人工智能治理政策意味着什么?

寻找可提供以下功能的技术

  • 公司内部单一、集中的人工智能和 ML 技术清单
  • 根据公司的风险偏好对人工智能进行可定制的、一致的风险评级
  • 人工智能验证和测试的全面可见性
  • 确定适当治理级别的能力
  • 全面的版本和变更控制,以及同行评审的透明度--尤其是在不受信息技术控制的情况下
  • 技术扫描能力,确保人工智能清单的完整性
  • 记录并管理由此产生的任何风险或违规行为

想了解有关人工智能治理的自动化 GRC 解决方案的更多信息?立即与我们的团队联系,或浏览以下资源。

探索 Mitratech 的综合 GRC 平台组合

同类最佳、可扩展的解决方案,帮助提升您的风险管理、响应能力、应变能力和声誉。

申请演示