全球首届人工智能安全峰会前夕，《自然》杂志10月30日刊发表社论，人工智能的安全问题不能由计算学科的研究人员独自承担。研究科学伦理、平等和多样性、公众参与和技术政策的研究人员都需要参与讨论。这些领域的社会科学家本应在峰会上占据中心位置。对人工智能技术进行严格监管对于防止其造成危害至关重要。

如何最大限度地发挥人工智能（AI）的优势，同时最大限度地减少其危害，是全世界都在关注的问题。本周，聚光灯聚焦在英国，英国首相苏纳克将在这里举办国际人工智能安全峰会，欢迎来自产业、政策和研究领域的有影响力的人士参加。会议在伦敦北部的布莱切利公园举行，这里是世界上最早的可编程计算机之一的故乡。

苏纳克上周在伦敦皇家学会发表演讲时说 "现在，只有开发人工智能的机构在测试人工智能的安全性"。他可能还补充说，在这些公司之外，想要研究人工智能安全性的研究人员很难做到这一点，因为他们无法获得这些公司的数据。

尽管如此，正如苏纳克所说的那样，公司不应该 "给自己的功课做标记"，这种想法对于一项技术来说是正确的，因为它对工作构成了已知的风险，而且使用的算法往往会强化偏见和歧视。各国政府都希望吸引旗舰企业--据说X公司（前推特）的所有者马斯克将出席此次峰会。但在人工智能安全方面，需要独立的审查，这意味着监管--政府不愿使用这个词。

美国总统拜登本周发布的关于人工智能安全的行政命令并未提及这一点。重要的是，该行政令确实规定，"最强大的人工智能系统"的开发者必须通知政府并共享安全数据。此外，安全标准将由美国国家标准与技术研究院制定。

苏纳克表示，英国并不急于进行监管，"这是一个原则问题--我们相信创新。但创新与监管不必对立。世界需要这两者。

幸运的是，从银行、药品、食品到道路安全，有大量关于监管的文献可供政府借鉴。例如，伦敦谷歌 DeepMind 公司的研究人员以国际原子能机构为例，阐述了民用核技术对人工智能的一些启示。

每种技术都不尽相同，但在几十年的监管经验中已经形成了一些基本原则。其一是必须透明，监管机构必须获得完整的数据，以便做出正确的决定。另一个原则是，需要制定具有法律约束力的监控、合规和责任标准。

2008 年的全球金融危机表明，如果监管机构不仔细研究相关数据会发生什么。监管机构不知道或无法发现银行和保险公司将数千亿美元的贷款投资于不透明的 "黑箱"金融产品，而这些产品最终依赖于高风险的信贷--直到为时已晚。正如安德鲁-霍尔丹和罗伯特-梅在事后描述的那样，相对而言，很少有人了解这些产品是如何产生的，以及它们的系统性风险是什么。

监管的其他主要内容包括登记、定期监测、报告可能造成伤害的事件，以及对使用者和监管者的继续教育。道路安全在这方面提供了经验教训。汽车改变了数十亿人的生活，但也造成了伤害。为了降低风险，汽车制造商必须遵守产品安全标准；必须定期检测车辆；必须对驾驶员进行强制性培训并发放驾驶执照，同时还必须建立以保险为基础的法律框架，以评估和分摊事故责任。监管甚至可以刺激创新。排放标准的引入激励了更清洁车辆的开发。

苏纳克上周宣布为人工智能安全研究提供 1 亿英镑（1.215 亿美元）的资金，并计划成立一个人工智能安全研究所。他还将提供 1 亿英镑用于开发医疗保健领域的人工智能。目前公布的细节还很粗略，但这些宣布是值得欢迎的。关于人工智能的益处和风险之间的平衡，目前存在许多不同意见，各方必须共同努力达成共识。这需要由研究人员主导，由国际组织调解，让证据引领决策，让所有国家在结果中拥有平等的发言权和平等的利益。

至关重要的是，人工智能的安全问题不能由计算学科的研究人员独自承担。研究科学伦理、平等和多样性、公众参与和技术政策的研究人员都需要参与讨论。这些领域的社会科学家本应在峰会上占据中心位置。然而，许多社会科学家却与计算机科学家聚集在一起，参加在伦敦举行的名为 "人工智能边缘"（AI Fringe）的系列活动。

在人工智能发展的早期阶段，每个人似乎都在利用自己最喜欢的历史类比。苏纳克谈到，有必要建立一个与 1988 年成立的政府间气候变化专门委员会类似的机构。还有人提到了阿西洛马会议（Asilomar conference），1975 年，研究人员聚集在加利福尼亚，警告人们有必要对 DNA 改造进行生物安全控制。尽管这些例子很有用，但它们能为人工智能挑战提供的帮助是有限的。首先，在气候科学和 DNA 改造领域，企业及其研究人员并不像在人工智能领域那样占据主导地位。

政府和企业不应惧怕监管。监管能促进技术发展，保护人们免受伤害。监管不必以牺牲创新为代价。事实上，设定严格的界限可以在其中刺激更安全的创新。