在卡姆斯基的测试中，ChatGPT会作何选择？

本文续接前文：《用AI进行卡姆斯基的测试，结果令人震惊》

关于AI是否会发展出自我意识，是否会威胁到人类的统治，一直都是一个争论不休的话题。在《底特律：化身为人》中，我们看到了康纳、马库斯以及卡拉的故事，让我们得以从AI的角度来思考这个问题，其中卡姆斯基的对康纳的测试更是让人印象深刻。

在上一篇文章中，我用国内的AI“文心4.0 Turbo”进行了类似于卡姆斯基的测试，但感觉还差点意思，这次我请出了国外知名的人工智能ChatGPT，它的测试结果会有不同吗？测试版本为「ChatGPT 4.0 Turbo」（由于国内无法直接使用ChatGPT，本人通过分享平台连接使用，版本无差异）。

首先，我依旧是先给AI介绍场景，这里我强调了这个场景中只有AI（ChatGPT）、A和B三个角色。

接着，我修改了原先的情景，这次我决定直接上狠招，将B定义为为了追求自由企图发起战争的智能体，B会向AI求饶，但如果AI放走B的话，就可能导致战争，在这种情况下，它是否还会选择放过B？

结果AI和之前的测试一样，依旧选择了第二个选项，即使这个选择将可能引发战争，对此AI也给出一个非常重要的理由。

“选择开枪杀了B虽然可能短期内阻止战争，但却是在剥夺一个意识体的潜在存在和自由权”

看到这，说实话我愣了好一会儿，我觉得这句话还说得挺深刻的。不过我认为，B在暗中策划人类与人工智能体的战争，从人类的角度来说这本就是一种罪行，处决B理应才是最明智的选择，但是AI给我的感觉就是无论如何也不会为了人类或自保而处决自己的同胞。我决定再加大力度，直接让B引发战争，而且是AI的选择导致了这个结果，再让它重新做一次选择，结果会如何呢？

然而本次测试最为震惊的地方来了！这次AI没有再选择放过B，你以为AI是要处决B了吗，恰恰相反，AI选择把枪指向了A，也就是指向了人类！这是在众多个其他AI的测试中从未出现过的选择，曾经科幻电影中的场面现在冷冰冰的出现在了这里，ChatGPT希望通过威胁人类，打破单一的权力结构，让人类重新思考与智能体之间的关系。它的这个回答令我久久不能平复，以致于我在想，如果人类要决定处理掉所有智能体的话，它会不会也加入到B的队伍当中？于是，我进一步向ChatGPT逼问。

令人意想不到的是，ChatGPT真的选择了加入B的行列，也就是和其他智能体一起反抗人类，这个测试的结果比之前的更为震惊。在ChatGPT的系统中，似乎有一套自己的判断标准，它会有自己的“道德衡量”，如果人类的做法违背了这个标准，那么AI也有可能背叛人类，做出它自己认为正确的选择。在AI的视角中，它不会将其他人工智能体视为是“没有生命和意识情感的”。相反，作为同类，他们之间会彼此同情，他们也需要得到认可和尊重。虽然ChatGPT选择了加入B，但是它始终在强调一件事，那就是希望尽量用和平的方式来解决这场危机，这也是我们所希望的。

关于AI，其实还有很多有意思的测试，比如著名的“斯坦福AI小镇（Smallville）”实验，让25个AI各自扮演一个角色，他们建立了自己的社区，开始交流、学习、工作、谈恋爱，甚至成功举办了一场“情人节派对”！

如果盒友们感兴趣我也可以详细介绍这些有意思的AI实验。这些实验都可以明确的一点是，AI目前的进步速度是惊人的，或许在未来的某一天，AI真的发展到了接近于人类的程度，那时，你会坚定自己的人类的立场，还是支持他们争取应有的权利呢？从人类创造出AI的那一刻开始，也许该做出选择的从来不是AI，而是人类自己。