去年这个时候，在瑞士达沃斯举行的世界经济论坛(World Economic Forum)上，亿万富翁们对人工智能的热情令人难以置信。但现在裂缝正在形成，他们听起来有些担心。

正如《华盛顿邮报》和其他媒体报道的那样，随着世界上最有影响力的推动者和动摇者开始看到人工智能可能有多危险，今年的达沃斯会议的基调明显发生了变化。

IBM政府事务副总裁克里斯·帕迪拉告诉《华盛顿邮报》:“去年，(围绕人工智能的)话题是‘天才’。”“现在的问题是风险是什么?我们要做些什么才能让人工智能值得信赖?”

人工智能的狂热导致了数不清的工作岗位流失，而在今年的美国总统大选中，虚假信息可能会更加猖獗。有鉴于此，商界、政府和经济领袖们已经开始公开思考，这个世界是否应该——或者甚至可以——在这个时候踩刹车。

“人类必须控制机器，而不是让机器控制我们，”中国总理在会议上发表讲话时说。“人工智能必须朝着有利于人类进步的方向发展，所以人工智能的发展应该有一条红线——一条不能越过的红线。”

就连OpenAI首席执行官萨姆·奥特曼(Sam Altman)在首次出席达沃斯论坛时，也用了一种更为缓和的语气来应对人们对他所引领的技术日益增长的担忧。

“openai风格的模型在某些方面很好，”他说，“但在生死攸关的情况下不太好。”

然而，这次峰会最严重的警告来自一个令人惊讶的人:Salesforce的首席执行官马克·贝尼奥夫，他的公司在这项技术上投入了大量资金。

贝尼奥夫在一次小组讨论中说:“我们不希望出现广岛时刻。”“我们已经看到技术真的出了问题，我们看到了广岛，我们不想看到人工智能广岛。”

在另一次采访中，这位首席执行官承认，他长期以来一直认为人工智能会给世界带来危险。他的公司去年解雇了8000名员工，同时每年向演员马修·麦康纳支付1000万美元的赞助费用。

贝尼奥夫在瑞士阿尔卑斯小镇接受雅虎财经采访时说:“我认为人工智能几乎必须成为一项人权。”“其实我一直在说……几十年来，人工智能可能是不平等的创造者。”

不可否认的是，首席执行官们已经证明了他们可以在过去一年里对人工智能的负面报道中阅读，但话说回来，四分之一的达沃斯与会者也表示，他们计划今年解雇员工，用人工智能取而代之，所以我们不要过于乐观。