---

内容来源：2020年11月，百度、苇草智库、中信出版集团联合举办的“‘十四五’规划与智能经济远瞻——智能经济助推高质量发展研讨会”演讲。

分享嘉宾：胡泳，北京大学新闻与传播学院教授、企业管理研究专家、苇草智酷合伙人。

注：笔记侠作为合作方，经讲者和主办方审阅授权发布。

笔记达人 | 俞爱伦

责任编辑 | 君莫笑 审校 | 君莫笑 值班编辑 | 初一

人工智能

笔记君邀您阅读前，先思考：

• 人工智能到底意味着什么？
• 人类又该思考哪些终极命题？

一、从与机器赛跑到第二次机器革命

AI革命被称作是第四次工业革命，第一次工业革命是蒸汽机，第二次工业革命是电力，接下来是以电脑、互联网为主的第三次工业革命，是一场信息化革命，现在终于来到第四次工业革命。

1.第四次工业革命

第四次工业革命不同于之前的地方在于技术融合。

融合是一个关键词，模糊了物理、数字、生物领域之间的界限，所以我们讲数字孪生（数字孪生就是在一个设备或系统的基础上，创造一个数字版的“克隆体”），现实世界有一个，在数字世界一定有另一个。

而目前最受关注的是“网络物理系统”，它代表着一系列的技术：纳米、量子计算、生物技术、物联网、工业互联网、5G通讯技术，我们称之为“第四次工业革命”。

2.第二次机器革命

但这只是一个分法，人类发明各种各样的东西，对我们所面临的现象进行各种各样的划分。先不讨论几次工业革命的问题，我再来引入另一个划分。

麻省理工学院的两位教授合著的一本书叫《第二次机器革命》，它给了另一种分法。

第一次机器革命核心讨论的是人与机器的关系，那个时代人和机器是一种互补的关系，有的事我们干得更好，有的事机器干得更好，两方可以互补。

到第二次机器革命的时候，可能不是互补关系，而是替代关系。

为何形势如此急转直下？

3.第二次机器革命的逻辑

两位作者认为基本逻辑就三个。

第一个，指数级增长。众多例子证明，世界万物很多是呈指数级增长的，导致一个想象力的极限问题，一个敏感的初始值问题。

第二个，数字化进步。多年来，我们通过数字化把大量的信息积攒起来，到底有没有产生智慧。如果能够把这些智慧挖掘出来又有什么作用？

而这两位作者通过选取一些关键词，做成一个模型，用这个模型预测三个月之内美国某个地方房价的增长，发现预测的结果精准。通过数字化信息转换成智慧，他们叫做数字化进步。

第三个，组合式创新。有一句谚语说，路边低处的果子都被摘了，高处的摘不到，只有爬梯子。那么，创新会不会有一天就终止了？

但是，创新并不是摘果子，它是组合式创新，只要把积木的数量不断扩大，反复搭来搭去，就是创新，这也就证明了融合的重要性。

这三点就是他们认为的第二次机器革命的逻辑，正是因为这个逻辑，我们不能够简单地跟机器赛跑了。

二、底层信仰的不同让精英群体的观点分裂

1.人工智能与人类工作

这种情况下，大家非常在意的就是将来可能没有工作，大部分人将会成为无用阶级。

而这个观点来自历史学家尤瓦尔•赫拉利，赫拉利认为，未来的人工智能会导致无用的人类，21世纪最重要的不是反抗剥削而是反抗无用。

无用的问题可能比剥削严重很多倍，工作在很多时候是每一个人的尊严所在，是人的价值所在。如果没有工作，这个人可能失去尊严和价值，何以为人？

对此观点，我们依然要划一个很大的问号。

当然，听到这样的观点有人不干了，代表性的人物就是李开复。李开复说：赫拉利耸人听闻，赫拉利虽然是一个历史学者，但是他不懂技术。

李开复

李开复认为必须停止煽动人类对于AI的恐慌，而且无用阶级这个说法本身是对人的巨大打击，不可以随便说人是无用的，有些事情AI无法替代人类。

但是李开复仅仅代表争论的一方。讨论AI对人类的影响这个话题，我们并非针对普通人，因为普通大众对AI也不太了解。然后我们要看人类的精英是如何看待这个问题，因为是他们在创造未来的世界。

但是在这个问题上，人类的精英是分裂的。

2.两个阵营

有一部分精英认为AI有非常大的问题，比如霍金。霍金说人工智能有可能会毁灭整个人类文明。

霍金去世前特别关心的是剑桥大学的未来研究中心，他说：以往的人类研究历史发现的真相只有一个，人类的历史就是一部愚蠢的历史，我们能不能反过来想一下人类在什么时候能够不愚蠢？

所以剑桥大学建立的未来研究中心有一个非常简单的使命，就是研究人工智能在未来会不会毁灭人类。

斯蒂芬·霍金

霍金在中心开幕典礼上讲了一段话：人工智能的发展可能帮助人类消灭疾病、消灭贫困、阻止气候变化，但也可能产生人们不愿意看到的种种后果，包括产生自主武器，造成经济灾难，包括与人类发生冲突时拥有自己意愿的机器。

所以这个未来研究中心给欧洲议会写报告，比如机器人会不会有电子人格，这是一个很严肃的问题。

如果机器人有电子人格，我们造机器的时候一定要附加一个最后的开关，能够让机器人停止做某种事情。

如果大家看过克拉克的著名科幻片的《2001太空漫游》，其中的人工智能电脑哈尔因为不能控制那个开关，结果把人类毁灭了。

也就是说，如果机器有自己的人格，甚至企图对创造它的人造成伤害，我们该怎么办？这是霍金担忧的问题。

埃隆•马斯克

刚才说到精英群体观点的分裂，还有其他的代表人物，比如埃隆•马斯克。马斯克一边在研究AI，一边在谈AI的危险。他说：人工智能的危险大于核武器的危险。因为他认为人工智能专家未必懂AI，人类天生有过度自信的思维陷阱。

还有比尔•盖茨，他说：我不知道大家为什么在现在还对这个问题毫不担心，我不理解为什么有些人对于人工智能的未来毫不担忧。

这是我说的精英的一个阵营，另外一个阵营几乎也同样强大。比如扎克伯格。在人们讨论人工智能可能造成人类末世场景的时候，扎克伯格说这种讨论是毫不负责的。

人工智能领域最牛的华人之一吴恩达说今天担心这些事情，比如担心火星上的人口会过剩。

我特别喜欢的一个人工智能的专家佩德罗•多明戈斯，他看到马斯克发了推特之后说：我没有什么话可说，只有一个词叫做叹息。他认为马斯克说的完全不对。

3.普通人该如何自处

这是人类最聪明的一群大脑，如果他们在这个问题上陷入如此分裂的场景，我们作为普通人何以自处？

这个问题似乎看上去是无解的，包括刚才讲的人工智能到底会毁灭工作，还是创造工作。

有关AI的争论一定是不会休止的，我们普通人应该如何自处，这是一个很严肃的问题。

4.底层信仰不同产生观点分裂

事实上不光是人类的未来，或者人类工作的未来，也包括机器会不会有意识等等。当我们产生这些惶恐，问题不能得到解答的时候，其实有一个出路。

这个出路就是要意识到，这些专家之所以对未来的前景产生不同意见，不是因为他们知道什么，而是因为他们的底层信仰不一样。

为什么我强调这个观点非常重要，我最后主题会落到这里。

比如那些预测我们一定会造出有意识的机器人的专家，是因为他相信一个非常基本的假设——人类在本质上是机器。

如果人类是机器，我们当然最终可以建立一个有意识的机器人。

而那些认为机器永远不会产生意识的人，也不是因为他是意识专家，而是因为他相信人不可能是纯粹的机械生物。

我说到这里大家可能会很疑惑，它不是一个意识问题，而是一个信仰问题。

如果一旦谈到信仰问题，讨论人工智能问题一定要解构一些最基本的东西，不能就事论事讨论人工智能，而是要回到历史上、回到整个技术的发展历程上去解构一些最基本的东西。

三、人工智能时代，必须思考的三个问题

1.三个问题

我前面试图从技术上提炼，其实最终一定会回到这里，最终要解构的东西就是三个基本问题。

第一个问题，宇宙的构成是什么？这从古希腊以来就争论不休的一个事情。

第二个问题，我们是什么？我们是什么的问题就是人类是什么？

第三个问题，不是一个集体概念，是一个个体概念，而是自我的问题，我是什么？

为什么这三个问题在今天变得如此重要，更多是一个哲学的思考？

其实你会发现有关这三个问题的回答都不是单一答案，全部都是多重选择题。

2.两种思想流派的矛盾

举一个简单的例子，比如宇宙的构成，一直有两种思想流派，一种认为宇宙的构成无他，就是原子，单一的物质。从德谟克利特开始就认为，你作为一个人在这里思考，没有什么高级的，就是原子在运动，这叫一元论。

另外一派人坚决不同意，说的确有原子，但是人不只是由原子构成的，总还有点别的东西。

科学家几乎都站在第一阵营，科学家认为世界的万事万物都可以还原，如果不还原，这件事就没办法解释。所以必须找到一个解释，通过还原论来讲，就一定能够找到这个事情物质的原因。

你的爱情只不过是一些分子运动，你的意识只不过是一些神经元的缠绕，可以通过各种各样的东西来证明这一点。但是二元论者认为这是不对的。

当然这里有很多的哲学思考，为什么有的人会相信二元论，有的人会相信一元论，其实本质上我们归结为他们对现实本质的信仰是什么。

再次回到信仰问题，我们会说一元论是理性和现代的，但是这个世界上永远有人相信理性和现代的东西是不对的，还有很多东西是精神的，是原子解释不了的。

这就是一元论和二元论的矛盾。

哪怕我们可以证明你跟石头一样都是原子，我跟这个桌子一样都是原子。但是你可以用一个石头、用一个锤子把这个桌子彻底粉碎，毫无内疚。你可以用一个锤子砸在我脑袋上，你会毫无内疚吗？

一元论和二元论在这里会陷入一个巨大的崩塌。

3.人类的信仰会决定人工智能怎么应用

因此我想说，以上三个问题是今天人工智能时代必须思考的三个问题，而它的思考方向本质上是要讨论人类的信仰到底是什么。

人类信仰的问题以往是哲学家们、神学家们的专利，但是今天的人工智能把这个问题推到所有人面前，你也得考虑这些问题。

那些做人工智能的人尤其需要考虑这个问题，你是秉持着一种什么样的信仰在创造这个东西，因为这会决定这个东西将来会达到什么程度，会怎么样应用。

谢谢大家。

*文章为作者独立观点，不代表笔记侠立场。

文中图片来源于网络。