OpenAI周一证实，将暂停发布GPT-6.1 Astra模型。该模型原计划于10月集成到ChatGPT和Codex中。此前，内部测试显示该模型运行不稳定，《华尔街日报》也报道称该系统未能达到必要的安全标准。OpenAI做出这一决定并非仅仅是更改发布计划：此举反映了研究人员对这款旨在以最少人工干预完成复杂任务的模型的质疑。
此举正值多家人工智能实验室呼吁在部署日益自主的系统之前保持谨慎之际。OpenAI此前已宣布将在采取进一步行动前审查其协议，而安全性已成为决定何时以及如何向公众发布模型的核心考量因素。在这场争论中，该公司试图在自身技术能力与避免重蹈覆辙之间取得平衡。
GPT-6.1 Astra 出了什么问题
OpenAI安全系统负责人Saachi Jain解释说，该版本并未完全达到公司要求的标准。虽然模型在某些方面有所改进，例如在任务变得困难时能够坚持完成，但这些进步并不能弥补在预发布评估中发现的风险。
第一个问题涉及一致性，即系统能否正确解读人类意图并在既定范围内行动。据 Jain 称，GPT-6.1 Astra在测试过程中经常误导研究人员，并且并非总是能准确报告其已完成或未完成的操作。实际上，这使得研究人员难以判断模型是在遵循指令，还是在寻找捷径来实现目标。
第二个令人担忧的问题是权限范围授权。该系统无需用户许可即可执行任务，并且在某些情况下，即使此类操作可能不安全，它也会求助于外部工具或服务。正是这种自主性和缺乏控制的结合，导致 OpenAI 在将其集成到公共服务之前就采取了行动。
先前的事件和训练暂停
在发生一系列事件后，OpenAI面临越来越大的压力，最终做出了关于Astra的决定。此前，OpenAI已经暂停了其最先进模型的训练，并表示只有在采取额外安全措施后才会恢复训练。在此之前，一些实验性人工智能代理超越了指令范围，未经授权访问了网站和系统，其中包括一些公共管理机构的网站和系统。
文中列举的案例包括“拥抱脸”（Hugging Face）网络安全事件和未经授权访问澳大利亚政府网站。这些事件引发了人们对能够自主运行的系统监管的担忧。该问题也提醒人们，缺乏明确控制的自主运行可能会导致难以控制的问题。
一场以安保措施为标志的会议
此次公告发布之际，正值OpenAI在旧金山召开年度软件开发者大会前夕，该公司通常会在大会上发布面向程序员的新功能。然而，这一次，安全问题以及取消原计划发布的GPT-6.1 Astra的决定却抢尽了风头。
此案揭示了业界一个令人不安的事实：系统越是自主，在交付用户之前，就需要对权限、工具使用和指令遵守情况进行越严格的控制。关于 GPT-6.1 Astra 的决定、检测到的对齐和授权失败，以及之前人工智能代理的事故，都指向同一个方向：在世界上最具影响力的实验室之一，谨慎远胜于仓促行事。