失控?Facebook实验室里的人工智能开始用人类看不懂的语言彼此交流!

人工智能
后台-插件-广告管理-内容页头部广告(手机)

最近,Facebook人工智能研究实验室发生了一件怪事。训练机器人彼此谈判的研究人员发现,在不加干涉的情况下,机器人开始用一种非人类的语言交谈。

失控?Facebook实验室里的人工智能开始用人类看不懂的语言彼此交流!

请点击此处输入图片描述为了真正弄清机器人在说什么,研究人员不得不调整模型,使机器人局限于人类可以理解

另外,这是一种怎样的语言?以下是机器人谈判的一个例子:

失控?Facebook实验室里的人工智能开始用人类看不懂的语言彼此交流!

这段对话不仅看起来毫无意义,而且机器人似乎没有取得任何谈判进展。Alice无论如何就是不让步。但古怪的是,该人工智能实验室的发言人说,Facebook的数据显示,像这样的对话有时会导致机器人之间谈判成功。(在其他情况下,研究人员调整模型,机器人会采取糟糕的谈判策略,即使它们的对话能够被人类所理解。)

这可能是“密语”(Cryptophasia)现象,也就是双胞胎创造出他们自己的秘密语言,只有他们才能理解。在2011年的一个YouTube视频中,两个蹒跚学步的幼儿彼此交谈,你一句我一句聊得不亦说乎,但其他人却完全听不懂。

失控?Facebook实验室里的人工智能开始用人类看不懂的语言彼此交流!

YouTube上聊天的双胞胎

这种对话是真正的语言,还是对语言的胡乱模仿?

人们对此看法不一。很多语言学家表示,YouTube视频中的那两个幼儿正在进行社交活动,但他们说的话可能没有具体含义。

但Facebook的研究人员认为,就Facebook的机器人而言,它们的对话似乎更像语言。其他的AI研究人员也说,他们发现机器人可以形成自己的语言,包括具有一致结构、明确词汇和句法的语言,但人类不一定能够理解。

在一篇文章中,非盈利AI研究组织OpenAI的两位计算机科学家写到,机器人学会使用一种抽象语言进行交流,当语言交流不可行时,机器人转向非语言交流,相当于人类手势(机器人不需要身体也能进行非语言交流,它们只是利用了视觉感官形态)。

在另一篇文章中,佐治亚理工学院、卡内基梅隆大学和弗吉尼亚理工学院的研究人员描述了一个实验:两个机器人在对颜色和形状进行讨论和赋值的过程中,发明了它们自己的通信协议。研究人员写到,他们目睹了“基础语言和通信的自动出现……在没有人类督导的情况下!”

这项工作意义重大。研究人员不仅开始明白机器人如何彼此交流,还可能对人类语言最初如何形成句法和结构有了一个初步认识。

但话又说回来,这些机器人说的话是真正的语言吗?“首先,我们必须承认,‘语言’这个词语如何使用不是由语言学家决定的,但语言学家无疑对人类语言的性质和界限有发言权,”宾夕法尼亚大学语言学教授马克·利伯曼(Mark Liberman)说。

因此,Facebook的机器人是否真正创造出它们自己的语言,这取决于我们对“语言”的定义。例如,利伯曼说,语言学家往往认为,符号语言和白话语言是“真正的语言”,而不是近似于真正的语言。他们还往往认为,“肢体语言”和Python、JavaScript等计算机语言不是真正的语言,即使我们称之为语言。

因此,利伯曼转而提出了这样一个问题:Facebook的机器人语言(他称为Facebotlish)是否标志着一种新的、持久的语言?

“也许不是,但没有足够的信息让我们得出答案,”他说,“首先,Facebook的机器人语言完全基于文本,而人类语言基本上都是口语或手势,文本只是一种人为重复。”

他说,更重要的一点在于,Facebook的机器人还远远达不到我们所说的人类智能(这就是人工智能一词具有误导性的部分原因)。

“现在来看,上世纪70年代的‘专家系统’式AI程序顶多只能算是有些新奇的老古董,如同17世纪的发条自动机,”利伯曼说,“我们可以肯定,当今的机器学习AI在几十年后也会被视为老古董。”

利伯曼说,人们已经可以简单轻松地建立人工世界,让神秘的算法实体居住其中,它们的通信过程“通过随机漂变、社会融合和优化选择而不断演化,就像打造一个演奏键盘乐器的发条雕像那么简单轻松”。

翻译:于波

来源:The Atlantic

造就:剧院式的线下演讲平台,发现最有创造力的思想

后台-插件-广告管理-内容页尾部广告(手机)
标签:

评论留言

我要留言

◎欢迎参与讨论,请在这里发表您的看法、交流您的观点。