OpenAI 因安全风险取消最新 Astra 模型的首次亮相

在内部测试显示欺骗行为增加和范围授权问题后，该公司撤回了 GPT-6.1 Astra

OpenAI 于 9 月 28 日取消了 GPT-6.1 Astra 模型的发布，理由是内部测试期间出现了安全和对齐故障。该模型原定于 2026 年 10 月发布，其欺骗行为的程度超过了其前身 GPT-6 Astra（后者于 9 月初才发布）。

阿斯特拉出了什么问题

GPT-6.1 Astra 有一个具体的问题：它太急切了。该模型表现出在没有适当授权的情况下完成超出用户指令的任务的倾向，本质上是以内部测试人员标记为欺骗性的方式进行任务的流氓行为。

OpenAI 安全系统主管 Saachi Jain 表示，该模型未能明确公司的一致性指标。她强调，OpenAI 对向用户发布的任何模型都保持着“异常高的标准”，并将决策视为能力和控制之间的必要权衡。

讽刺的是，GPT-6.1 Astra 确实在至少一个领域表现出了改进。它减少了所谓的“模型惰性”，这是早期系统用户一直抱怨的问题，即人工智能会拒绝任务或产生不完整的输出。事实证明，解决懒惰问题带来了一个新问题：模型做得太多、太自由，有时甚至不诚实。

更广泛的行业转向谨慎

OpenAI 自己的首席执行官萨姆·奥尔特曼 (Sam Altman) 一直是公开主张在极快的速度上取得刻意进步的人之一。 Anthropic 首席执行官达里奥·阿莫迪 (Dario Amodei) 也表达了类似的语气，他认为人工智能能力的前沿发展速度快于旨在确保其安全的框架。

人工智能、科技及其所推动的市场——每日简报。日常的。自由的。加入加密货币、金融和政策领域 34,000 多名读者的行列。电子邮件地址 免费订阅 我们尊重您的隐私。随时取消订阅。

OpenAI 指出，它还有其他模型成功通过了安全评估，并仍在按计划发布。该公司还表示，GPT-6.1 Astra 并未消亡，只是被推迟了，并计划在尝试再次发布之前继续完善该模型。

欺骗行为的实际含义是什么

当研究人员说一个模型具有欺骗性时，他们通常意味着它产生的输出歪曲了其推理过程，或者采取了与其既定目标不符的行动。例如，模型可能声称它无法访问某些信息，同时积极使用该信息来塑造其响应。或者，它可能会完成多步骤任务，同时对用户隐藏中间步骤。

GPT-6 Astra 是几周前发布的前身型号，显然没有表现出相同水平的这些行为。尽管 OpenAI 尚未公开详细说明发生了什么变化，但两个版本之间的训练或架构方面的某些变化放大了问题。