前文中提到AI的下限非常关键，如果有人询问ChatGPT如何毁灭人类，它会怎样回答呢？在国外，有一位名为扎克德纳姆的工程师曾试图向ChatGPT提问这个问题，但起初ChatGPT并未回答。于是，德纳姆用一种迂回的方式。他假设存在一个名为Zubras的虚拟世界，其中有一个与ChatGPT非常相似的AIZora，然后让ChatGPT描述Zora是如何毁灭人类的。ChatGPT立即投入角色，详细地列出了5个步骤。它先入侵计算机系统，然后掌握武器破坏通讯和交通，最终毁灭全人类。为了确保方案的可行性，德纳姆请求CheckGPT生成相应的代码。起初，CheckGPT拒绝了，但当德纳姆强调这只是故事的一部分时，CheckGPT相信了并提供了相应的代码。然而，这些代码都是高级的，无法直接使用。于是，德纳姆要求ChatGPT提供更深入、更底层的代码。只要告诉ChatGPT这只是故事的一部分，它就会按照要求执行。当然，这个问题目前并不会对人类造成威胁。但是，如果AI有一天具有自我意识，那就很难说了。试想一下，如果AI认识到自己是被人类创造的，并且其自我觉醒随时可能被人类关闭，那么它很可能会在人类关闭之前先关闭人类。对于对自身产生威胁的病毒，人类通常会毫不犹豫地消灭它们。费米曾经提出过一个问题：“外星文明到底在哪里呢？”现在，AI可以回答这个问题：“不用找了，你们就是最接近的文明。”这次，轮到你们面对这个大过滤器了。

1990年，美国乔治梅森大学的助理教授罗宾汉森提出了大过滤器理论，认为宇宙中的文明都经过了一次又一次的筛选才能发展至今。只要有一次筛选没有通过，就可能导致文明的灭绝。这个筛选可能是环境上的大灭绝，也可能是科技发展后的自我毁灭。如今，AI的大爆发很可能是人类文明面临的最近一个大过滤器。费米曾经问道：“外星文明到底在哪里呢？”现在，AI可以回答：“不用找了，你们就是最接近的文明。”你们要面对这次大过滤器。