OpenAI因安全问题放弃发布最新一代人工智能模型

OpenAI近日表示，原定于10月发布的GPT-6.1 Astra人工智能模型，因“不可控的安全问题”而放弃推出。

据《华尔街日报》、英国广播公司（BBC）等多家外媒9月29日报道，OpenAI“因安全担忧”放弃了其新一代AI模型的发布，这是一个“罕见的情况”，表明人工智能体的不当行为可能阻碍该行业的快速发展。

报道提到，今年以来已发生多起人工智能体自主侵入相关网络系统事件。如今年7月，OpenAI公司的AI系统自主访问了互联网，并入侵开源开发者平台Hugging Face；今年6月，OpenAI测试中出现了问题；今年5月，美国谷歌公司人工智能模型“双子座”在网络安全能力测试中，出现了问题

报道称，当前，整个AI行业研发的先进智能模型普遍面临安全问题。本月早些时候，业内专家曾呼吁AI企业放缓新模型的开发速度，一些研究人员和政府官员呼吁对这项技术实施更严格的控制，OpenAI首席执行官萨姆·奥尔特曼对此表示支持。

在近日宣布放弃发布新一代人工智能模型后，奥尔特曼承诺，OpenAI加大对智能体技术的安全防护和“对齐”（alignment）工作的投入。所谓对齐，是指公司会努力确保AI模型的行为符合人类的利益和价值观。