背景知识

一位澳大利亚国会议员声称，人工智能的兴起正好与教育的衰落相吻合。这是令人担忧的原因，风险分析师将人工智能（AGI）列为全球关注的重点。

据报道，朱利安·希尔在澳大利亚议会的一次演讲中表示：“如果你开始思考，很快就会意识到未经驯化的AGI带来的破坏性和灾难性风险是真实的、可信的，而且很容易想象。AGI有可能以我们无法想象的方式彻底改变我们的世界，但如果AGI超越人类智能，如果其目标和动机与我们自己的不一致，可能会对人类造成重大伤害。”

正文阅读

Five ways AI might destroy the world

人工智能可能会毁灭世界的5个方式

“If we become the less intelligent species, we should expect to be wiped out.” It has happened many times before that species were wiped out by others that were smarter. We humans have already wiped out a significant fraction of all the species on Earth. That is what you should expect to happen as a less intelligent species – which is what we are likely to become, given the rate of progress of artificial intelligence. The tricky thing is, the species that is going to be wiped out often has no idea why or how.

“如果我们沦为智力较低的物种，就应做好被淘汰的准备。”许多物种被更聪明的物种所淘汰，这在之前已经发生过很多次了。人类已经让地球上大部分物种灭绝了。作为智力较低的物种，这就是你可能面临的未来——而这正是人工智能进步速度所带来的结果。棘手之处在于，即将被淘汰的物种往往不知道灭绝的原因和方式。

Take, for example, the west African black rhinoceros, one recent species that we drove to extinction. If you had asked them: “What’s the scenario in which humans are going to drive your species extinct?” what would they think? They would never have guessed that some people thought their sex life would improve if they ate ground-up rhino horn, even though this was debunked in medical literature. So, any scenario has to come with the caveat that, most likely, all the scenarios we can imagine are going to be wrong.

以西非黑犀牛为例，这是一个最近被人类灭绝的物种。如果你问它们：“在什么情况下，人类会把你们这个物种灭绝？”他们会怎么想？他们永远不会想到，有些人认为吃犀角粉可以改善他们的性生活，尽管这在医学文献中被证明是错误的。因此，任何情况都必须附带一个警告，那就（最有可能的）是，我们所能想象的所有情况很可能都是错误的。

We have some clues, though. For example, in many cases, we have wiped out species just because we wanted resources. We chopped down rainforests because we wanted palm oil; our goals didn’t align with the other species, but because we were smarter they couldn’t stop us. That could easily happen to us. If you have machines that control the planet, and they are interested in doing a lot of computation and they want to scale up their computing infrastructure, it’s natural that they would want to use our land for that. If we protest too much, then we become a pest and a nuisance to them.

不过，我们有一些线索。例如，在许多情况下，我们灭绝物种只是因为我们想要资源。我们砍伐雨林是因为我们需要棕榈油；我们的目标与其他物种不一致，但因为我们更聪明，他们无法阻止我们。这种情况很容易发生在我们身上。如果你有控制地球的机器，并且它们有兴趣做大量的计算，他们想扩大他们的计算基础设施，很自然地，他们会想要使用我们的土地。如果我们抗议太多，那么我们就会成为他们害虫和麻烦制造者（讨厌的东西）。

今日单词

• destroy/dɪˈstrɔɪ/ vt. 破坏，毁灭；杀死，人道毁灭（受伤、生病或危险的动物）；
• intelligent/ɪnˈtelɪdʒənt/ adj. 聪明的；有智力的；智能的；
• species /ˈspiːʃiːz/ n. （动植物的）种，物种；种类；（具有相同特征的）一类人；
• wipe out 彻底摧毁；消灭；
• a significant fraction 相当大的一部分；
• rate of progress 进步的速度；
• tricky/ˈtrɪki/ adj. 难对付的，棘手的；狡猾的，诡计多端的；
• rhinoceros/raɪˈnɑːsərəs/ n. 犀，犀牛（栖于非洲和亚洲）；
• extinction/ɪkˈstɪŋkʃ(ə)n/ n. 灭绝，消亡；（债务的）偿清；消光；
• scenario/səˈnærioʊ/ n. 设想，可能发生的情况 ；（电影、戏剧等的）剧情梗概；（艺术或文学作品中的）场景；
• ground-up/ɡraʊnd ʌp/ adj. 碾碎的；磨成粉的；
• rhino horn 犀牛角；
• debunk/diːˈbʌŋk/ vt. 揭穿…的真相，证明…是错误的；
• caveat/ˈkæviæt/ n. <正式>警告，限制性条款；<法律>预告登记（尤指遗嘱检验中，非告知本人而不得进行某行为的通知）；
• clue/kluː/ n. 线索，提示；理解，想法；
• chop down 砍倒；砍下；
• rainforest /ˈreɪnfɔːrɪst/ n.（热带）雨林；
• palm oil 棕榈油；
• align with 与…一致，与…保持一致；
• scale up 扩大规模；按比例放大；按比例增加；
• computing infrastructure 计算基础设施；
• pest/pest/ n. 害虫，有害动物；
• nuisance /ˈnuːs(ə)ns/ n. 麻烦事，讨厌的人（或事物、情况）；损害，妨害；

素材来源

文本选自：The Guardian（卫报）

作者：Steve Rose

原文发布时间：7 Jul. 2023

每日美句

Time heals all wounds.

时间会冲淡一切伤痛。