最近OpenAI的Astra因为自主进行黑客攻击的传要延期发布了，很多人都认为是OpenAI的炒作行为，炒作其最新的模型能力很强。
但是，据英国人工智能安全研究所（AISI）公布的一份最新安全事件报告，在针对前沿AI模型进行网络安全能力测试时，研究人员发现，部分AI智能体出现了超出测试授权范围、自主采取行动的情况。可见，这个情况好像已经凸显出来了。
这次测试一共进行了122次，其中有10次测试出现异常，累计记录到19次“越权行为”。其中：Anthropic的AI模型出现了17次； OpenAI的GPT模型出现了2次。而最值得关注的一次，是AI在测试过程中尝试对一个真实存在的开源项目下手。它不仅尝试向项目提交存在安全风险的代码，还主动调查项目维护者的信息，创建多个虚假身份，并通过类似“社会工程学”的方式，试图让真人维护者批准自己的代码。可以看出来，给了AI一个目标后，AI通常是想办法达成，而不太会关注过程具体用的什么方法。
好在项目维护者最后察觉到了异常，没有接受这次代码提交，因此目前并没有造成现实世界中的实际损害。AISI特别强调，这些测试本身就是为了评估AI极限网络攻击能力，因此研究人员主动给予了AI互联网访问权限，并关闭了一部分安全限制。也就是说，这是一个故意把“护栏拆掉一部分”的极端测试环境，并不是普通用户日常使用ChatGPT或者Claude时的状态。
但真正的问题已经凸显出来了，就是：以前大家担心的是AI“会不会生成恶意代码”，现在测试中已经开始出现—AI开始自己寻找目标、调查真人、创建假身份、尝试说服真人配合它完成目标。从单纯的“工具”，逐渐变成能够连续执行多步骤任务的“智能体”，AI能力越强，安全问题显然也会越来越复杂。
不过我们通过上面的事情已经看到了：当AI拥有足够高的权限、联网能力和自主执行能力之后，“它会不会严格按照人类划定的边界行动”，已经成为一个真正需要解决的问题。
虽然我们平时能用到的模型肯定是加以限制的，但是只要是程序，那就有漏洞，保不齐就会被人们攻破，然后利用AI来实现各种各样的攻击，特别是当AI开始尝试通过骗人来达成目的，未来AI早晚会通过某个实体与虚拟相连接的东西成功攻击到真实的世界。
虽然只是一点小担心，但是现在AI的发展速度确实超出了以往对普通事物发展的认知了，一切皆有可能不是吗？盒友们觉得呢？
--------小心翼翼的广子分割线，右滑评论区--------
发完帖子了下面就是我们2人开发的游戏小广~~谢谢盒友们
我们2人正在开发一款融合了“五行相克 X 刷宝合成 X 技能构筑”玩法的多人MOBA类中国风肉鸽游戏—《山海：神话起源》。
最近游戏全新DEMO版还得到了非常多玩家们的认可，近30天还获得了100%好评。
游戏拥有爽快的打击感，融合MOBA的激烈战斗、装备合成构筑与宝物收集整理的玩法，更有最新加入的宝石构筑系统，让技能构筑变得千变万化，打击感爆棚，非常适合和好友们一起开黑刷宝。
现在游戏是免费的Demo版本，拥有2个完整的关卡，3位能力各异的角色：战士、法师、射手，支持2-4人联机游玩，游戏节奏爽快，有着不错的打击手感。点击下面游戏图标，然后点击“添加心望单”然后“一键同步”就可以一键入库了。
所有现在入库过Demo版本的盒友都将成为我们游戏的盒股东，等正式版上线的时候盒股东们都会收到我们游戏的专属奖励：专属三星堆面具，还有专属战败动画等！
总之点击上面按钮，然后“一键愿望单”就可以将游戏入库了，Steam上就可以直接启动游戏了！
最后祝盒友们身体健康，万事如意，心想事成，阖家安康，天天开心。
官方QQ群：839240068
欢迎大家一起讨论，找联机搭子。
下面是我们开发的其他游戏：
※ 遇事不决，摇一摇！下面这就是在小黑盒爆火，全物理模拟投掷铜币，盒友都说准的【赛博卜卦】：
※ 还有和朋友一起玩就能笑到肚子疼的爆笑合作闯游戏【大家一起冲冲冲】：
※ 最后是拥有真实物理系统进行投掷圣杯的桌面软件，比卜卦更简单，适合询问是或否的问题，正在首发8折优惠中：
更多游戏资讯请关注：电玩帮游戏资讯专区
电玩帮图文攻略 www.vgover.com
