天天消息！AI应享受“长夏”而非冲入“深秋” 英国发布人工智能监管白皮书

3月30日，一封发布自安全机构生命未来研究所的联名信让人们意识到，技术成果日新月异的背后，对人工智能潜在风险和危害的担忧也在与日俱增。“让我们享受一个漫长的 AI 夏天，而不是毫无准备地冲入秋天。”联名信以此为结尾，呼吁暂停相关AI研究，直到各方协商后制定出相关安全协议。

风口浪尖之上，近日，英国政府发布了针对人工智能产业监管的白皮书(下称“白皮书”)。

【资料图】

白皮书提出了监管人工智能的新方法，并概述了监管机构应考虑的5条明确原则，即安全性和稳健性、透明度和可解释性、公平性、问责制和管理，以及可竞争性和补救性。

受访专家指出，在白皮书提出的五项原则中，透明度和可解释性作为人工智能技术研究和应用的基础，需要得到特别重视。此外，白皮书提出的在现有法律框架下对人工智能治理的思路，以及可信人工智能、监管沙盒等举措，能够在防范潜在风险的同时促进产业发展，对我国未来的人工智能治理有一定借鉴意义。

AI治理的五个原则

“人工智能不再是科幻小说中的东西，其发展惊人，我们需要有新的规则来确保它安全地发展。”英国科学、创新和技术部(DSIT)部长表示。

在白皮书中，DSIT概述了针对ChatGPT等人工智能治理的五项原则，分别是：安全性和稳健性、透明度和可解释性、公平性、问责制和管理，以及可竞争性和补救性。

具体而言，安全性和稳健性指人工智能应用应当以安全和稳健的方式运行，并持续识别、评估和管理风险，监管机构可采取举措确保人工智能系统整个生命周期按预期可靠运行；透明度和可解释性指开发和部署人工智能的组织应该能够沟通何时以及如何使用它，并以适当的详细程度解释系统的决策过程，以匹配使用人工智能带来的风险；公平性指人工智能的使用方式应符合英国现行法律，例如《2010年平等法》或英国GDPR，不得歧视个人或创造不公平的商业结果；可竞争性和补救性则指需要有明确的途径来质疑人工智能产生的有害结果或决定。

“透明度和可解释性是技术发展的关键要素，也是人工智能保证可信任度的基础。”北京师范大学法学院博士生导师、中国互联网协会研究中心副主任吴沈括解释道，也因此，其他原则的贯彻实施都以透明度和可解释性为基础。“这也是目前人工智能产业中各参与主体特别关注并投入资源建设的重点区域。”他说。

白皮书显示，英国政府将避免可能扼杀创新的严厉立法，并采取适应性强的方法来监管人工智能。英国计划在其人权、健康和安全以及竞争监管机构之间分配管理人工智能的责任，而不是创建一个专门负责该技术的新机构。

在吴沈括看来，人工智能治理的相关问题和目前现行的法律制度之间存在一定的逻辑关联和事实匹配，因此，现行法律仍能治理人工智能技术的相关问题。

不过他也指出，技术发展过程中出现的算法透明度、人工智能伦理等问题是最初法律制定过程当中难以预见的。“因此我认为，适时研判并引入专项人工智能法律规则有其必要性。”他表示。

据了解，在接下来的12个月里，英国监管机构将向人工智能公司发布实用指南，以及其他工具和资源，如风险评估模板，以阐明如何在其行业中实施这些原则。在议会时间允许的情况下，可以引入立法，以确保监管机构始终如一地考虑这些原则。

失控和刹车？

耐人寻味的是，白皮书推出的时间点，正值ChatGPT等高级AI技术遭受质疑的风口浪尖。

就在白皮书发布前不久，著名安全机构生命未来研究所( Future of Life Institute ， FLI )呼吁全球所有研究机构暂停训练比 GPT-4 更强的系统至少六个月，理由是这种系统对社会和人类构成潜在风险；同时，要求在这六个月中来制订和 AI 相关的安全协议，其中就包括如何监管 AI 输出的内容，还有如何把 AI 创造出的内容和真实的内容区分开来。

图灵奖得主Yoshua Bengio、马斯克、苹果联合创始人Steve Wozniak、Stability AI 创始人Emad Mostaque等上千名科技大佬和AI专家已经签署公开信。甚至OpenAI CEO Sam Altman的名字一度也出现在公开信上，尽管不久之后便无端消失。

这封信在产业界掀起了轩然大波。对外经济贸易大学数字经济与法律创新研究中心执行主任张欣认为，这封联名信及其呼吁反映了科技从业者、技术社群、社会公众以及监管机构对于人工智能的技术信任焦虑。“在技术展现其强大力量和极高发展速度的情况下，规则缺位带来的人工智能技术的种种不确定性将会影响人们对这一技术的信任。”

此次英国发布的人工智能产业监管白皮书所搭建的监管体系，能否有效让存在“失控”风险的AI“悬崖勒马”，在一定程度上提振行业的发展信心？

吴沈括表示，英国对新兴产业，如数字经济等的监管展现出实用主义色彩。其监管主要目的是增强英国市场的吸引力和活力，推动本国产业的发展，因此也更具产业友好性。

“此次产业白皮书的发布，将进一步提升监管框架的确定性、明确性，有利于增强该国甚至外国投资者的信心。”他说。

据媒体报道，英国在近日宣布将投资9亿英镑(约合人民币 75.06亿元)来打造百亿亿级(exascale)超级计算机。这样的超级计算机将被用于创建类似于ChatGPT的语言模型，并暂时命名为“BritGPT”。英国政府认为“BritGPT”将为英国在人工智能领域发展带来新的机遇。

可信AI、监管沙盒等举措助力我国产业发展

虽然人工智能并非近几年才出现的新概念，但该市场目前正处在起步发展阶段，而我国、乃至全世界对应的规则、监管机构还在逐步建构和明确。英国此次公布的监管举措及整体框架对我国未来的人工智能治理有一定的借鉴意义。

人工智能技术是否值得信任，是横亘在技术的理论和实际应用间的重要问题。英国政府在白皮书中宣布将提供相关技术和技术标准保障可信人工智能的落地，具体举措包括提供保证技术工具箱衡量研发流程中的可信度，计划分类分层拟定技术标准等。

“未来，可信人工智能仍然是各国在人工智能监管工作中的重点。”张欣指出，只有技术被确保可信，人工智能技术的研发和产业应用才能放心迈开脚步。

近年来，人工智能领域内可信人工智能的研究与应用步伐都在加快。中国信通院数据显示，截至2022年 4月，全球可信人工智能领域相关论文数量论文共计 7059 篇。美国、中国、英国是可信人工智能领域论文发表的主要国家，三国发表的论文总数占全球论文总数 53%以上。

此外，在具体举措上，英国政府还表示，将资助2万英镑建立一个监管沙盒，为人工智能企业提供测试环境。企业可以测试如何将监管应用于人工智能产品和服务，以支持创新者将新想法推向市场。而不会受监管规则的约束。

“监管沙盒与人工智能产业迭代速度快的特点相适应，对我国对人工智能产业治理亦有参考价值。”在张欣看来监管沙盒模式一方面，则能够在“沙盒”模拟中预判可能出现的风险，帮助监管方早日知晓和防范；另一方面，能够帮助激发技术创新活力，拓展产业发展的空间。

去年9月发布的《上海市促进人工智能产业发展条例》就提出，政府应当顺应人工智能快速迭代的特点，探索分级治理和沙盒监管。