ChatGPT可能带来技术、经济、政治、社会方面的风险，可能影响就业，而且随着应用的不断拓展，潜在的风险也会不断出现。人工智能风险的规制特别需要各国的共同合作，主权国家对技术的应用有比较好的规制，不至于有太大风险。但是如果有一些团体利用人工智能给人类社会带来危害，其实是非常难以控制的，所以如果没有国际合作机制，今后这方面的风险是难以控制的。

——薛 澜 清华大学苏世民书院院长

以下为薛澜在中国发展高层论坛2023年年会上的发言实录

前两年我们一直在讨论第四次工业革命。第四次工业革命涉及到各方面的技术，之前大家讲人工智能是这些技术的核心，当时还感觉论据不足，但ChatGPT出来以后，现在就可以当之无愧地说人工智能就是如此。

首先从科技政策的视角来看一下技术的发展过程。目前人工智能发展的路径，跟其他几次工业革命还是比较接近的。第一阶段，先有一个标志性的技术突破，当然，人工智能的突破点在哪里，究竟是人工智能战胜国际象棋冠军、还是战胜围棋冠军、还是在其它节点，可能还需要经过多年讨论才能看清楚。但不论如何，ChatGPT应该是一个重要的节点，它真正实现了关键性的技术突破。

这个突破出现以后，一般来讲就会进入第二个阶段，即技术跟社会和市场的互动过程，不同于有些技术，一开始就有比较具体的应用领域，并在这个应用领域不断拓展， ChatGPT基本的突破就是非常广泛的应用。

第三个阶段其实是很重要的，就是技术的社会认知阶段。技术突破的产生不仅仅是一个经济和产业现象，也是一个社会现象。技术应用给我们带来了各种直接的、间接的收益。但也要思考另外一点，它对社会有什么样的影响？大家会怎样认识这个技术？社会对技术可能产生的其他各种影响、包括技术带来的风险是有一个认知过程的。

第四个阶段是在社会认知的基础上形成某种相应的规制体系，最后成为一个比较稳定的技术-经济-社会系统。这就是很多之前的技术所走过的过程。

人工智能技术其实也在走这个历程，但有一点不同，就是上面这个发展过程被大大地压缩了。这对人类社会既是一个机遇也是一个挑战。

之前很多技术，包括电话、电视等可能花了几十年，其社会普及率才只有70%到80%，甚至更低。但现在很多数字技术，尤其人工智能领域的突破，一开始就很快，比如ChatGPT推出之后一个月，就有上亿人在用，整个发展过程被大大压缩了。虽然在很短的时间内分析其潜在风险可能比较困难，但现在已经有各种分析报告陆续出来。

下面来谈谈ChatGPT可能带来的各种风险。

首先是技术上的风险。一方面，ChatGPT的透明性有限，可解释性比较差。另一方面，其技术不够稳定。与此同时，它有可能蕴含潜在的偏见。

第二类风险是经济上的。ChatGPT对整个经济社会产生的影响很大，一方面也许可能一两个公司就可以垄断整个行业了。从经济学上来讲，垄断的危害可能就会显现。

另外一点是其对就业的影响，另外是涉及到利润的分配，可能个别的企业、少数人把持着大量产生的利润。

社会方面的风险刚才已经提到了，如老师留的家庭作业，学生已经开始请ChatGPT帮忙做了，这就涉及到学术诚信问题。ChatGPT对学术界的影响已经开始了，有些人请ChatGPT帮着写论文，所以不少学术期刊开始确立一些规则，如ChatGPT不能作为论文作者，如果写作中用了ChatGPT需加以说明。

更加让人关注的是它的政治风险，涉及到在交流沟通过程中隐含的意识形态、价值观念等等。这些潜在的意识形态和价值观念会对整个社会产生什么样的影响，值得深入思考。

而且，这些风险可能只是现在看得到的，随着应用的不断拓展，潜在的风险也会不断出现。

接下来的问题是，社会应该怎么应对？

首先，我觉得应该保持一个乐观的态度去拥抱ChatGPT和其它人工智能技术，人类社会经历这么多年的发展，技术进步是重要的推动力，人类社会从中受益无穷，我想人工智能也是一样。

其次，要坚持两个轮子同步推进，一个是发展的轮子、一个是规制的轮子。争取在发展中不断引导、推动人工智能技术的健康发展。

主持人：

人工智能是一个世界性的问题，是机器和全人类，我的问题是，在协调合作方面都有哪些渠道？

薛澜：

其实在人工智能领域国际合作非常普遍，我们前几年的一个分析发现，中美是在人工智能领域发表论文最多的两个国家。同时，中美合作发表的论文也很多，占美国总论文比例18%左右，占中国12%左右（因为中国发的文章总数特别多）。

另外，讲到人力资源的交流合作，大家看到这次OpenAI也有不少是中国的学者到美国去学习后在美国工作了，参与开发，中国其实也是一样，有很多从美国学习回来的人在人工智能企业工作，中美双方人员交流原来也是非常多的。

资本的交流也是一样，中美国际资本跨境流动都是非常方便的。应该说如果说我们继续保持一个比较开放的交流，我想人工智能的确会有更好的发展、更快的发展。

谈到治理，也是同样的，大家可以保留一些基本共识。比如曾老师参加联合国教科文组织伦理规则的起草，全世界各国都积极参与。其它方面也应该是有大量合作的机会，合作会产生很好的前景。

但是目前的脱钩还是让人比较担心的，目前脱钩不管是硬件技术，还是人员交往面临中国的人工智能发展还是有相当大的影响，我们大家都希望去看到这种情况有所改变。

另外，从反面的角度来讲，人工智能风险的规制其实也是特别需要各国的共同的合作，我个人感觉作为主权国家对技术的应用可能还是会有比较好的一些规制的，不至于有太大的风险。但是如果有一些恐怖组织或团体希望用这个技术来给人类社会带来一些危害，这个其实是非常非常难以控制的，所以如果没有一个国际合作的机制，今后这方面的风险是难以控制的。