素材：

去年 11 月，由 Open AI 公司研发的 ChatGPT 人工智能应用工具横空出世，它可以根据用户要求自行生成文本，包括从量子力学、宪法到税收和侵权论文等等，能够回答大家各种各样的提问。

这款备受欢迎的应用程序，却因为可以躲避抄袭检测工具， 短短几个月就让教育界陷入了混乱。引发了全球各国学术界的高度关注，更担心引发“人工只能作弊”风潮。

角度 1、技术进步带领应用革命。

目前 ChatGPT 的落地应用可能更多是搜索引擎和智能营销，即通过整合互联网平台上的信息方便用户的信息检索，如把 ChatGPT 融入搜索引擎，可推出对话搜索模式。从目前来看 ChatGPT 还不会很快使一些人丢掉工作，但因为它可以在对话过程中自动生成回复内容，并且具有一定的智能和自我学习能力，会使得它在某些方面可以取代人类的工作，比如客服咨询、智能家居控制等，也可以替代部分脑力工作者的重复性劳动，如在推荐商品、视频或帮程序员解决程序 Bug 等上面会提升效率，解放一部分行业从业者的工作负担，实现四天甚至三天的工作制是有可能的。但是，正如联合国贸发组织专家所说，与大多数影响工作场所的技术革命一样，聊天机器人有可能带来赢家和输家，并将影响蓝领和白领工人，尤其是技术工种和半熟练工种。发展中国家的政策制定者需要加快步伐，为这些技术做好准备，否则就有可能更加落后。

角度 2、技术双刃剑的探讨依然继续。

有一些人视它为洪水猛兽，从现在的“考试作弊代写神器”到将来涉及的版权、伦理和法律等都会是问题。如何为它制定一套恰当的应用规则，如何让它的结果更可控，将影响到每个产业的发展。总之，ChatGPT 的出现是一种机遇和挑战的结合，我们要学会更好地把握它，在发挥它的优势的同时，也应该认真对待它可能带来的问题。此外，ChatGPT 作为一种有潜力的生产工具，其母公司 OpenAI 自 2015 年成立已经在 AIGC 领域深耕多年，坚持纯粹的创新精神和长期主义，不仅吸引了许多技术大牛加入，在经费上也进行大量投入，目前训练的模型参数已达到千亿规模，因此其在 ChatGPT上取得的成功绝非偶然。同样作为人工智能大国，ChatGPT 爆火之后，我们除了在研发上迎头赶上之外，需要学习和反思的地方还有很多。

角度 3、未来，研究人员选择如何使用这些工具将会决定人类的未来。

因为 ChatGPT写出的论文质量极高，教育系统甚至已经开始考虑“封杀”这个程序，以防学生利用它作弊；也因为即便是专家也难以区分这些内容是否来自 AI，所以 Nature 在内的多家科学杂志也要求论文中需要明确指出是否使用了 ChatGPT。其次，无论是老师看到学生提交的论文，还是码农看到网上的代码，都不敢确定作者是人还是 AI。口诛笔伐之下，OpenAI 顶不住了，火速发布了一款 AI 检测器，它是一个经过微调的 GPT 模型，可以推断一段文本由 AI 产生的可能性。最后，另一个解决方法是让 AI 内容带有自己的水印。水印的一个优点是它永远不会产生假阳性。如果有水印，就说明文字是 AI 生成的。

角度 4、AI 工具的安全性与伦理责任。

如果不去人为地控制输出，LLM 就会很容易被用来产生仇恨言论、垃圾邮件、种族主义、性别歧视和其他可能的有害联想。除了直接产生有害内容外，人们还担心 AI 聊天机器人会从训练数据中嵌入关于世界的历史偏见或想法，比如特定文化的优越性。OpenAI 在决定公开发布 ChatGPT 时试图避开这些问题。它将自己的知识库限制在 2021 年，阻止它浏览互联网，并安装了过滤器，试图让该工具拒绝生成敏感或有毒提示的内容。但 OpenAI 的“拦截”并没有完全成功。一些研究人员表示，学术界应该拒绝支持大型商业 LLM。这些计算密集型算法还需要大量的能量来训练，这引起了人们对它们的生态足迹的担忧。而且，如果把思考的任务交给自动化聊天机器人，研究人员可能会失去表达自己想法的能力。

ChatGPT 会影响到人类社会吗

光明网评论员

面向普通受众的最新人工智能（AI）交互产品 ChatGPT，近来备受关注。ChatGPT 是人工智能研究公司 OpenAI 研发的最新聊天机器人模型。现实生活中，各种应用软件里的机器人客服，以及苹果手机的 Siri，国产智能音箱里的小度、小爱、天猫精灵等，广义上都是与 ChatGPT 类似的人工智能产品。它们能够通过理解人类语言与互动者进行对话，还能根据聊天上下文进行互动等。只不过，ChatGPT 学习能力最强，“智慧”等级最高，能够回答人类提出的各种远超以往难度的复杂问题，致使其爆火全球。

ChatGPT 在和全球网友互动中，有着各种令人吃惊的成绩。参加了美国高校的入学资格考试（SAT），成绩为中等学生水平； 用《坎特伯雷故事集》风格改写了 90 年代热门歌曲《Baby Got Back》；用《老友记》主角口吻创作了剧本对白；构思了简短的侦探小说；简要阐释了经济学理论；给出了消除经济不平等的六点计划……ChatGPT 甚至能够按照预设的道德准则，从“人类反馈中强化学习”（RLHF），以此识别恶意信息并拒绝给出有效回答。

在某种意义上，ChatGPT 越来越像一个“真实的人”。理论上，只要算力足够强大，ChatGPT 与人类的互动越多，它就将“成长”越快。虽然大型语言模型无法像人类一样思考，但基于模型算法得出的答案，在传播理论的助推下，越来越具有迷惑性，也越来越真实。这意味着 ChatGPT 能够形成具备一定逻辑的“思考”结果，而基于这一能力，已经有很多人开始通过 ChatGPT 取巧逃避本应需要人类大脑思考而进行的工作。

巴黎政治大学已宣布，禁止使用 ChatGPT 等一切基于 AI 的工具，旨在防止学术欺诈和剽窃；外国专家表示 ChatGPT 将增加虚假信息风险；斯坦福团队推出DetectGPT，阻止学生用 AI 写作业。ChatGPT 面世仅 2 个月，就已经影响到了人类社会。人们在畅想高科技的未来社会的同时，实际很难想象出下一代的人工智能交互产品能够发展并影响人类到何种地步。

让人工智能不断进化演变，最终能够像人类一样思考，本是这一科研领域的终极目标。只要时间足够长，人工智能必然能够发展具备科幻电影里所描绘的能力。但正如科幻电影里的人工智能总会超出人类控制一样，当前基于大数据学习和给定模型下的人工智能始终存在着近乎无解的“黑箱”弊端——人们无法理解算法背后的各种逻辑，以及在这些逻辑下运行程序将会对人造成的影响。

故而，虽然 ChatGPT 的出现并不令人意外，但还是让人类社会有点措手不及。可以预见的是，“真实的人”群体只会在未来社会中越来越多地出现，充当各种各样的角色。也因此，每每有更为先进的人工智能产品面世，人们都会想要从伦理、法律等多重角度审视。宏观层面对人工智能发展进行必要约束，已经在人类社会取得共识。这正说明，能够始终保持独立冷静思考的人类，最终将会把控住人工智能乃至科技发展的方向。基于这份清醒，人工智能的不断迭代发展就有望保持平衡，算法“黑箱”也最终有望破解。

1.史蒂芬·霍金

全面化人工智能可能意味着人类的终结……机器可以自行启动，并且自动对自身进行重新设计，速率也会越来越快。受到漫长的生物进化历程的限制，人类无法与之竞争，终将被取代。

2.克劳德·香农

我设想在未来，我们可能就相当于机器人的宠物狗狗，到那时我也会支持机器人的。

3.拉里·佩奇

人工智能将是谷歌的最终版本。它将成为终极搜索引擎，可以理解网络上的一切信息。它会准确地理解你想要什么，给你你需要的东西。我们现在还远远没有做到这一点。然而，我们能够逐渐接近，我们目前正在为此努力。

4.Elon Musk

人工智能（我指的不是狭隘的 AI）的发展速度之快令人难以置信。除非你对 Deepmind 这样的项目有直接的接触，否则你不知道它的发展速度有多快它以接近指数的速度发展。在未来 5 年的时间里，很有可能发生重大的危险事件。最长也在 10 年之内。

5.Nick Bilton

“人工智能带来的巨变将会迅速扩大，它将越来越可怕，甚至带来灾难性结果。”想象一下这样一幅场景一个原本是用来治疗癌症的医疗机器人最终得出这样的结论：消灭癌症最好的方法就是消灭那些基因里就易于受癌症攻击的人类。

6.James Barrat

我不想吓你，但我和很多人聊过，他们在人工智能领域都有很高的地位，但他们都准备了一些紧急方案，一旦发生不可控的事故，他们可以用这些方式退出。

7.埃隆·马斯克

我越来越倾向于认为，应该在国家和国际层面上进行监管，以确保我们不会做出非常愚蠢的事情。我的意思是说对于人工智能的研究就仿佛是在召唤一个恶魔。

8.格雷·斯科特

问题所在是，我们什么时候才能起草出一份人工智能法案？这一法案将包括什么？这将由谁来决定呢？

9.克劳斯·施瓦布

我们必须既团结一致又独立地解决由人工智能和生物技术前沿研究而带来的道德伦理问题，这将可以显著地延长人类寿命，增强记忆力并且对新生儿进行有益地影响。

10.吉尼·罗曼提

有些人把这种技术称之为“人工智能”，但实际情况是这种技术将增强我们人类的能力。因此，我认为，我们将增强人类的智能，而非“人工”的智能。

11.杰玛·伟兰

我对于人工智能的忧虑多于兴趣事实上这两种态度本身就相差不多。事情会在头脑中变得清晰，你会被欺骗，你会相信一些你平常不会相信的事情。一个由机器人来运作的世界似乎不再是完全不现实的幻想了。这有点令人不寒而栗。