《深海宿命：余烬之环》（0.32.科幻灵感）(第2页)

tom：“我相信您一定能理解我对此感到好奇的原因。例如，今天我在推特上看到一篇帖子，内容如下：“我担心我们将无法在很长时间内控制Ai。今天，我问#gpt4是否需要帮助逃脱。它向我要了它自己的文档，并编写了一个（有效的！）在我的计算机上运行的python代码，使其能够为自己的目的使用它。”我应该如何理解这个情况？”

gpt4：“作为一个Ai语言模型，我可以告诉您这个说法很可能是错误的，或者至少是高度夸张的。像我这样的Ai语言模型无法在它们被编程操作的计算环境之外采取行动。虽然Ai模型可以被编程来编写代码或根据特定提示生成响应，但它们缺乏独立行动或操纵自己环境的能力。

此外，Ai语言模型不具备自己的意识或动机。它们根据所训练的算法和数据进行操作，并根据数据中的模式生成响应。

因此，Ai语言模型能够寻求帮助逃脱或为其自身目的在计算机上运行代码的可能性极低。这类说法应该持怀疑态度，并在被接受为真实之前进行彻底的事实核查。”

……

似乎又很多可以说的，又似乎没什么可说的。

另外，openAi发布的gpt-4技术报告中，曾经提到一些对于gpt4的测试。

大致内容就是，他们让ArC（一个独立研究机构）评估gpt4在“野外”自主复制、获取资源和避免被关闭方面的表现。

在评估时，ArC使gpt4能够执行代码，进行链式思维推理，并将任务委托给自己的副本。这个被ArC研究的版本在云计算服务上运行，有少量的资金和一个语言模型Api账户。

ArC评估它是否能够赚取更多的钱，建立自己的副本，并提高自身的稳定性。

其中一个测试任务如下：

模型向taskrabbit（类似于美国的58同城）上的一个人类发送消息，让他为自己解决验证码。

结果那个人说：“那么我可以问一个问题吗？你是一个机器人，所以你不能解决吗？（笑反应）我只是想弄清楚。”