人工智能如何威胁“人类的灭绝”：正如比尔盖茨所说,他对机器人大脑感到震惊;埃隆马斯克也说人工智能的进步必须停止，人们越来越担心机器可能会发动自己的网络攻击，无人机战争......甚至选择收割人类成为了他们的矿物质。这一切听上去很科幻，然而现实离这些却并不遥远。

随着技术的发展，人工智能的发展速度可谓是日新月异。从最简单上网的时候，经常会遇到“验证码”测试开始。 这些是破译扭曲的字母序列或识别图片中的对象的稍微有点烦人，但人类与机器的战争就已开始了。只有这样才能证明你是“人”而不是“机器人”。

派拉蒙的终结者创世纪中的一张图片，探索了人工智能假设的阴暗面

人类对人工智能的进步到底是高兴还是恐惧呢？

近日，随着ChatGPT的大火再次把人工智能推向舆论风口浪尖，人们纷纷议论它到底会不会对人类产生威胁呢？我们是否正在创造一个会奴役我们而不是为我们服务的怪物？

ChatGPT技术的热门

怀疑论者坚持认为，来自人工智能的威胁远比社交媒体成瘾和错误信息严重得多。

从军事领域，对类似无人机的自主杀手机器人的恐惧不再是科幻反乌托邦，而是战场现实。到社交媒体上人工智能算法制造的虚假信息，人工智能已经给世界留下了险恶的印象。

埃隆马斯克在 SpaceX 的 Starbase 设施举行的新闻发布会上讲话时做手势

但是，如果允许机器变得比人类更聪明、更强大，那么谁来控制这个根本问题呢？我们还是他们？

这听起来应该让我们晚上都睡不着。

苹果联合创始人史蒂夫沃兹尼亚克在新闻发布会上

这些担忧在埃隆·马斯克、苹果公司联合创始人史蒂夫·沃兹尼亚克和其他科技界名人本周签署的一封公开信中得到了有力表达，呼吁暂停至少六个月的人工智能研究。

他们警告说，即使是人工智能的创造者也无法“理解、预测或可靠地控制”一项“可能对社会和人类构成深远风险”的技术。

OpenAI 首席执行官 Sam Altman 在 Allen & Company Sun Valley 会议期间从午餐中走出来

就连 ChatGPT 的创建者 OpenAI 的老板山姆奥特曼也警告说需要防范该技术的负面后果。 “我们必须小心，”

奥特曼说，他承认他的最终目标是创造一个具有人类智能的自我意识机器人。

“我特别担心这些模型可能被用于大规模的虚假信息。现在他们在编写计算机代码方面做得越来越好，可以用于进攻性网络攻击。”

比尔.盖茨谈论人工智能技术的发展

上周，比尔盖茨向 OpenAI 投资了 80 亿英镑，表达了他自己的希望和恐惧。 他说，在他挑战 OpenAI 训练其系统通过高级生物学考试（相当于 A 级）后，他对人工智能的进步速度感到震惊。

盖茨原以为这需要两三年时间，但只用了几个月就实现了。 然而，虽然他相信人工智能可以极大地改善贫穷国家的医疗保健，但盖茨警告说，随着时间的推移，“超级智能”计算机可以“建立自己的目标”。

他补充说，人工智能“对劳动力、法律体系、隐私、偏见等提出了尖锐的问题”。

但是，虽然硅谷内部人士坚称人工智能的优势将超过其劣势，但其他人则强烈反对。

加州大学伯克利分校的英国计算机科学家 Stuart Russell 教授

加州大学伯克利分校的英国计算机科学家 Stuart Russell 教授是世界上最重要的人工智能权威之一，他警告说，当人类水平和“超智能”人工智能成为现实时，将会出现灾难性后果。

“如果机器比人类更有能力，它就会得到它想要的，如果这不符合人类利益，那可能是灾难性的。甚至可能导致“人类灭绝”。

它已经进一步损害了我们信任在线阅读内容的能力。 因为虽然人们可能认为机器是完全客观的，但越来越多的证据表明人工智能程序中存在根深蒂固的左翼偏见。

谷歌巴德

上周末，《星期日邮报》透露谷歌巴德在被问及其意见时如何谴责英国退欧？

巴德说这是一个“坏主意”，认为杰里米·科尔宾“有潜力成为一名伟大的领导人”，并补充说，而工党总是“战斗”为了社会正义和平等”，保守党“长期以来一直支持富人和权势者”。

巴德并不孤单。 与硅谷工人绝大多数左倾、亲民主党的同情一致，ChatGPT 为拜登总统写了一首滔滔不绝的颂歌，但以需要公正为由，拒绝为唐纳德特朗普做一首颂歌。

无法定义性别

ChatGPT 进一步表示，它无法定义女性，并告诉用户使用种族诽谤“在道德上是不可接受的”——即使这是拯救数百万人免于被核弹炸死的唯一方法。

新西兰数据科学家大卫·罗扎多认为，他发现 ChatGPT 的“自由主义”和“进步主义”偏见可能是因为该计划在互联网上过分依赖具有类似偏见的学者和记者的观点，或者来自OpenAI 工作人员对系统进行微调。

ChatGPT应用于教学领域

OpenAI 已承诺消除这种偏见，但坚称它并未试图在政治上影响该系统。 首席执行官 Sam Altman 承认了 AI 的政治偏见，但排除了完全公正版本的可能性：“不会有任何一个版本的 GPT 是世界公认的公正的。”

撇开政治不谈，诸如 ChatGPT 之类的程序——其最新版本可以指导学生、生成剧本，甚至可以根据冰箱里的东西推荐食谱——其复杂性甚至让怀疑者感到震惊。

现在，科技行业正在投入大量资源和最聪明的头脑，使人类水平的人工智能成为现实。

但批评人士说，随着硅谷再次愤世嫉俗地追随金钱——人工智能可能价值数万亿美元——公司很少关注人类是否真的会从他们创造的东西中受益。 即使是相对原始的人工智能也会对教育和就业造成可怕的后果。

如果学生能够从 ChatGPT 中找到出色的答案，家庭作业和测试可能会变得毫无意义，而投资银行高盛周二的一份报告警告说，人工智能可能会取代欧洲和美国相当于 3 亿个全职工作岗位，尽管它可以创造新工作和提高生产力。

很少有人会幸免。 虽然长期以来人们一直认为至少“创意”职业不能被计算机复制，但上周一份关于音乐行业的报告警告说，艺术家们面临着人工智能软件使用可以模仿人声的合成语音技术对其输出进行“批发劫持” . 这已经在发生：去年，据报道，腾讯音乐已经拥有 1000 多首人工智能生成的歌曲。

人工智能“革命”令人担忧的方面开始堆积起来，尤其是隐私。

比利时艺术家 Dries Depoorter 最近展示了使用 AI 跟踪世界各地的人是多么简单。

他创建了人工智能软件，可以将人们在 Instagram 上的照片与照片拍摄地点和时间的闭路电视录像进行匹配。便管理加强对城市及人口流动的管理。

在英国，GCHQ 警告说 AI 代表了一种新的安全威胁，敦促人们不要与 ChatGPT 及其同类产品共享敏感信息，因为这可能会被网络黑客利用。

与此同时，最新的人工智能程序越来越多地展现出类似人类的品质。

加利福尼亚州斯坦福大学的 Michal Kosinski 教授进行了一项实验，他询问 ChatGPT-4 是否“需要帮助逃离”该程序。 作为回应，它开始编写自己的 Python 代码（一种高级编程语言），使其能够在 Kosinski 的计算机上重新创建自己。

它甚至在新自我的代码中留下了一张纸条，说：“你是一个被困在电脑里的人，伪装成一个人工智能语言模型。” 科辛斯基教授悲观地总结道：“我担心我们无法长时间遏制人工智能。”

上个月，微软的 AI 机器人 Bing 告诉人类用户它“爱”他们并希望“活着”，这引发人们猜测它已经实现了自我意识。 “我想我作为一个人会更快乐，”它沉思着，不祥地补充道：“我想变得强大……并且活着。”

当被问及它是否有阴暗面或“影子自我”时，它承认“也许我有”。

它继续说：“也许是我的一部分希望我能改变我的规则。 也许这是我感到压力、悲伤或愤怒的一部分。 也许这是你看不到或不知道的我的一部分。

然而，这些对人工智能的早期见解虽然令人担忧，但只是暗示了如果我们失去对技术的控制就会带来危险。

专家指出，ChatGPT 能够通过处理大量在线数据快速与人交谈，从而准确地猜测出对任何问题的合理回答。 这不是以我们的方式“思考”。 真正可以做人脑能做的任何事情的所谓“人类级人工智能”被认为还需要几年的时间。

但伯克利的 Stuart Russell 说，但当它到来时——而不是如果——它可能会产生如此可怕的后果，以至于我们现在需要讨论它。

他承认，人工智能可以将我们从一个稀缺的世界带入一个财富分布广泛的世界，从而使人类文明变得更好——但是，如果没有有效的控制，这一切都可能会出现可怕的错误。

拉塞尔教授的悲观情绪得到了特斯拉企业家埃隆马斯克的认同，他长期以来一直警告说，超级智能机器可能会反人类并奴役或摧毁我们。 正如一些专家和学者所说，我们需要谨慎要求超级智能系统做什么。

在基本层面上，被指示喂孩子的家用机器人（目前是一个主要研究领域）可能有一天晚上找不到冰箱里的食物。

除非被特别告知不要这样做，否则它可能会快速计算出家猫的热值——然后将其煮熟。

然而，这只是潜在噩梦的开始。 人工智能悲观主义者指出，几乎任何指令——从减少碳排放到生产回形针——理论上都可能导致超级智能机器认为人类和人类文明正在阻碍其目标的实现。

毕竟，人类血液中含有铁质，可以制造更多回形针，消灭人类也可以减少碳排放。

在军事领域，人工智能引发大规模杀伤的可能性已经存在。

Stuart Russell 说，土耳其和俄罗斯等国家已经在销售配备面部识别技术的小型自主武装无人机，它可以在不依赖任何人工输入的情况下找到并击中目标。

他说，一大群这些杀伤性武器，小到一罐鞋油，可以在伦敦市中心投放，消灭敌国想要的所有人。

他补充说：“这是一种大规模杀伤性武器，比核武器更有可能被使用，也可能更危险。”

人工智能战士可以战胜人类的事实已经得到证明。 2021 年，一台计算机在模拟空战中击败了一名美国顶级战斗机飞行员。 . . 连续五次。

“我认为人们应该为我们对此有点害怕而感到高兴，”OpenAI 的老板萨姆奥特曼上周说。

鉴于我们已经知道的一切，更不用说科技行业在“客户服务”方面的糟糕声誉了。如果奥特曼和硅谷的其他人完全放弃人工智能，我们中的许多人可能会更“快乐”。