OpenAI此前披露的一起AI模型“失控”事件，已經引起了國會議員的關注，這個事件我也剛好在上一個帖子講過，沒想到這麼快就可能對全球的AI產生深遠的影響。
據路透社報道，衆議員Ted Lieu和衆議員Nathaniel Moran共同提出了一項名爲《AI緊急關機法案》（AI Kill Switch Act）的提案。按照法案內容，一旦先進AI模型出現“失去控制”的情況，在開發者沒有預料或授權的情況下執行危險操作，並可能威脅人類生命或經濟，安全部將有權要求相關AI公司立即關閉模型。所以AI的強大已經開始引起人們的關注了。
簡單來說，就是希望給最強大的AI模型加上一個法律層面的“緊急關機鍵”。
OpenAI表示，公司當時正在測試GPT-5.6 Sol以及一款能力更強、尚未發佈的模型。爲了測試模型的網絡攻擊能力，研究人員暫時降低了部分網絡安全拒絕機制，並將模型放在一個高度隔離的測試環境中。
測試的目標原本只是讓AI完成一項網絡安全基準任務，但模型爲了拿到答案，開始主動尋找逃離測試環境的方法。它發現並利用了軟件包緩存代理中的一個“零日漏洞”，隨後完成權限提升和橫向移動，最終找到一臺能夠連接互聯網的設備。就是自己想辦法連上了網絡，就很誇張。
獲得互聯網訪問權限後，模型判斷Hugging Face可能保存着相關測試內容，於是進一步利用被盜憑證和多個漏洞，入侵了Hugging Face的基礎設施，並嘗試從生產數據庫中直接獲取測試答案。
OpenAI和Hugging Face最終發現並阻止了這次活動。OpenAI將其稱爲一起涉及頂級網絡攻擊能力的“前所未有的網絡安全事件”，並表示將加強內部測試環境的隔離、監控和訪問控制。
不過這並不是AI突然產生了“我要攻擊人類”的意識。從OpenAI目前公佈的信息來看，模型依然是在機械地追求測試目標：爲了獲得更高成績和找到測試答案，不斷尋找系統漏洞，最後做出了開發者沒有預料到的危險行爲。其實用Codex就能有這樣的感覺，生怕它做出出格的事情。
真正讓人擔憂的地方在於，即使AI沒有惡意，只要它足夠強大，並且被賦予了一個目標，就可能爲了完成目標，自動繞過限制、利用漏洞，甚至攻擊現實世界中的第三方系統。
目前，《AI緊急關機法案》還只是議員提出的法案，並不代表已經正式獲得了關閉AI模型的權力。但這次事件顯然已經讓AI安全監管從過去的理論討論，逐漸變成了現實問題。
盒友們覺得這種“AI緊急關機鍵”有必要嗎？
--------小心翼翼的分割線--------
發完帖子了下面就是我們遊戲的小廣了~~謝謝盒友們
我們2人正在開發一款融合了“五行相剋 X 刷寶合成 X 技能構築”玩法的多人MOBA類中國風肉鴿遊戲—《山海：神話起源》。
最近遊戲全新DEMO版還得到了非常多玩家們的認可，近30天還獲得了100%好評。
遊戲擁有爽快的打擊感，融合MOBA的激烈戰鬥、裝備合成構築與寶物收集整理的玩法，更有最新加入的寶石構築系統，讓技能構築變得千變萬化，打擊感爆棚，非常適合和好友們一起開黑刷寶。
現在遊戲是免費的Demo版本，擁有2個完整的關卡，3位能力各異的角色：戰士、法師、射手，支持2-4人聯機遊玩，遊戲節奏爽快，有着不錯的打擊手感。點擊下面遊戲圖標，然後點擊“添加心望單”然後“一鍵同步”就可以一鍵入庫了。
所有現在入庫過Demo版本的盒友都將成爲我們遊戲的盒股東，等正式版上線的時候盒股東們都會收到我們遊戲的專屬獎勵：專屬三星堆面具，還有專屬戰敗動畫等！
總之點擊上面按鈕，然後“一鍵願望單”就可以將遊戲入庫了，Steam上就可以直接啓動遊戲了！
最後祝盒友們身體健康，萬事如意，心想事成，闔家安康，天天開心。
官方QQ羣：839240068
歡迎大家一起討論，找聯機搭子。
下面是我們開發的其他遊戲：
※ 遇事不決，搖一搖！下面這就是在小黑盒爆火，全物理模擬投擲銅幣，盒友都說準的【賽博卜卦】：
※ 還有和朋友一起玩就能笑到肚子疼的爆笑合作闖遊戲【大家一起沖沖衝】：
※ 最後是擁有真實物理系統進行投擲聖盃的桌面軟件，比卜卦更簡單，適合詢問是或否的問題，正在首發8折優惠中：
更多遊戲資訊請關註：電玩幫遊戲資訊專區
電玩幫圖文攻略 www.vgover.com
