对于人工智能而言，埃隆•马斯克（Elon Musk）不仅是其幕后推手，也是最直言不讳的批评家。这位特斯拉汽车（Tesla Motors）的创始人曾把研究人工智能和“召唤恶魔”相提并论，并声称有朝一日智能机器人将终结人类。

图片描述：图中人物是埃隆•马斯克。图片来源：Rob Latour/REX Shutterstock

这位亿万富豪透露，目前他正在资助37项科研项目，目的是确保人类能够控制未来的机器人系统。Future of Life Institute（一个非营利性组织，力图规避人类存在的风险，并促进人工智能的健康发展）公布了这笔大部分由马斯克和Open Philanthropy Project的其他成员资助的款项。马斯克说道：“研究人工智能的主要成员都认为人工智能的安全性至关重要，我也赞同该观点，因此我出资1千万美元来支持旨在确保人工智能对人类有益的研究。”

得到资助的团队选拔自300个申请者，他们申请的项目包括从控制机器人武器到帮助机器做出道德判断等众多领域，如计划开发出能够学习人类偏好的机器；计划制造出能在真实环境中做出道德判断的机器人；希望找到确保人类能控制机器人武器的方法；以及旨在解决机器人接管人类工作后会发生的状况——引起大规模的失业。同时，牛津大学计划为人工智能开发出一套道德规范，用于帮助选择资助的研究项目。（通过这里可以看到资助项目的完整列表和描述）

图片说明：图为电影《终结者：创世纪》中的剧照。图片来源：diudou.com

随着《终结者：创世纪》2015年7月在美国上映，科学家们强调了区分现实和科幻的重要性。Future of Life Institute的主席Max Tegmark说道：“影片《终结者》存在的隐患并不在于电影场景是否会发生，而在于它忽视了未来人工智能可能会带来的实际问题。不过，现在我们正关注到人工智能问题，得到资助的37个团队应该帮助解决这些实际问题。”

图片说明：图片中的人物是物理学巨匠史蒂芬•霍金。图片来源：timely.tv

今年早些时候，包括马斯克和史蒂芬•霍金在内的一些科学家和企业家们签署了一封公开信，承诺确保人工智能研究对人类有益。这份由Future of Life Institute起草的公开信中警告称，如果智能机器缺乏安全保障，人类将面临黑暗的未来。信中指出科学家应该采取措施，避免出现可能导致人类毁灭的风险。

公开信的作者表示，人们普遍认为人工智能研究正在蓬勃发展，并将对社会产生越来越大的影响。信中称语音识别、图像分析、无人驾驶汽车、翻译和机器人运动都是人工智能研究的受益者。同时作者写道：“人工智能潜在的益处是巨大的，因为文明的每一个产物都是智慧的结晶。当人工智能大幅提高机器智商时，我们虽无法预测文明将达到怎样的程度，但有望消除疾病和贫困。”

但是公开信也做出了严重警告：进行人工智能研究的同时必须相应地采取防范措施，规避人工智能对人类的潜在危害。在短期内，人工智能将导致数百万人失业；在长期内，人工智能可能潜在地让社会倾向反乌托邦，机器的智商超越人类，接而做出违反编程的举动。公开信写道：“我们研发的人工智能系统必须做我们希望它们做的事情。很多经济学家和计算机科学家都认为有必要进行研究，确定如何在最大化人工智能经济效益的同时减少负面影响，例如加剧不平等和失业。”

2014年11月，马斯克曾警告称由于机器采用人工智能，最快将在5年内“一些很危险的事情即将发生”。2014年10月，他在麻省理工学院（Massachusetts Institute of Technology）航空航天系百年学术研讨会上发表讲话，把人工智能称为我们“面临的最大威胁”。他说：“我认为我们应该对人工智能有所警惕。在我看来，人工智能可能是我们面临的最大威胁。因此我们必须谨慎地进行人工智能研究。我越来越觉得应该树立监管机制，可以是在国家和国际层面，确保我们不会做出一些愚蠢的事情。随着人工智能的发展，我们将召唤出恶魔。也许你认为类似神话故事里拥有五芒星和圣水的人能够控制恶魔，但事实并不是这样。”

扩展阅读

科技巨头谷歌设立了人工智能伦理委员会（AI Ethics Board），对机器人技术进行监管，同时确保项目不被滥用。2014年初，谷歌与Deep Mind（一家英国的软件公司，旨在研制出能够使计算机像人类一样思考的软件）一起收购了数家机器人公司。Deep Mind公司的Shane Legg在一次采访中说到：“我认为人类灭绝可能将最终发生，而技术的发展很可能是造成灭绝的原因之一。”在所有可能灭绝人类的科技中，他认为人工智能是“本世纪的头号威胁”，并警告称人工智能很可能在未来致使人类灭绝。（科学之家，译审/编辑：F Ma）

关注科学之家微信公众号：科学HOME 收取新鲜科学资讯。