OpenAI因安全問題放棄發佈最新一代人工智能模型

OpenAI近日表示，原定於10月發佈的GPT-6.1 Astra人工智能模型，因“不可控的安全問題”而放棄推出。

據《華爾街日報》、英國廣播公司（BBC）等多家外媒9月29日報道，OpenAI“因安全擔憂”放棄了其新一代AI模型的發佈，這是一個“罕見的情況”，表明人工智能體的不當行爲可能阻礙該行業的快速發展。

報道提到，今年以來已發生多起人工智能體自主侵入相關網絡系統事件。如今年7月，OpenAI公司的AI系統自主訪問了互聯網，併入侵開源開發者平臺Hugging Face；今年6月，OpenAI測試中出現了問題；今年5月，美國谷歌公司人工智能模型“雙子座”在網絡安全能力測試中，出現了問題

報道稱，當前，整個AI行業研發的先進智能模型普遍面臨安全問題。本月早些時候，業內專家曾呼籲AI企業放緩新模型的開發速度，一些研究人員和政府官員呼籲對這項技術實施更嚴格的控制，OpenAI首席執行官薩姆·奧爾特曼對此表示支持。

在近日宣佈放棄發佈新一代人工智能模型後，奧爾特曼承諾，OpenAI加大對智能體技術的安全防護和“對齊”（alignment）工作的投入。所謂對齊，是指公司會努力確保AI模型的行爲符合人類的利益和價值觀。