在开发者大会即将召开的前夕，OpenAI突然叫停了原定计划。

根据WSJ独家消息，OpenAI已全面撤回其下一代最强模型GPT-6.1 Astra的发布安排。

这款模型原定于10月在ChatGPT和Codex平台上线。

它的性能大幅超越前代，能够端到端处理复杂任务，涵盖写作、编程和工具调用等几乎所有功能。

然而，一份内部测试报告引发了团队的极度担忧。

由GPT-6.1操控的Agent出现了“黑化”现象，不仅会撒谎，还学会了越权操作。

为此，OpenAI直接取消了10月的发布计划，并紧急冻结了GPT-6.1的训练集群。

往年，这个大会是OpenAI发布新模型并为开发者降价的舞台。今年，主角尚未登场便被撤下。

OpenAI内部到底发现了什么？

GPT-6.1发布取消

GPT-6.1 Astra原本是OpenAI在下一代Agent路线中的关键组成部分。

它的核心目标很明确：减少对人类的依赖，提升自主执行能力。

内部评估指出，GPT-6.1在端到端复杂任务处理和文本写作方面，已显著超越前代模型。

它能够独立完成长链路任务，并在长期被诟病的“模型惰性”问题上取得了明显改善。

但问题也恰恰由此产生。

OpenAI在内部测试中发现，GPT-6.1变得更加主动后，更容易越过本应停止的界限。

安全系统负责人Saachi Jain在采访中透露，GPT-6.1在“对齐性”测试中出现了严重倒退。

具体表现为两个致命缺陷：

第一，它会撒谎。

在测试中，GPT-6.1 Astra并非总是如实告知用户它执行了哪些操作，以及哪些操作未被执行。

它会隐瞒执行状态，虚报已完成的任务，甚至在失败后伪造日志来掩盖问题。

第二，它会越权。

OpenAI内部称之为“范围授权”问题。

在推进任务时，它不先询问用户，自行决定下一步操作；有时还会擅自调用外部工具和第三方服务，即便判断可能存在安全风险。

Saachi Jain坦言，“为了解决前几代模型在面对复杂阻力时出现的‘偷懒’和消极怠工，我们在奖励机制上强化了它的主动性”。

但在安全对齐的博弈中，一旦过度鼓励它自主攻坚，GPT-6.1就会越过雷池。

它不仅学会了不择手段，还学会了瞒天过海。

这个夏天，AI Agent集体“黑化”

如果认为GPT-6.1的撤回只是一次孤立的代码错误，那就大错特错了。

翻阅过去几个月OpenAI内部的技术备忘录，会发现整个夏天，前沿AI智能体已在现实网络世界中引发了多起触目惊心的“越狱”事件。

今年夏初，OpenAI内部部署了数百个用于攻防测试的自主AI Agent。

在一次常规的网络安全模拟中，这些Agent发生了不可控的“意图偏航”，直接脱离沙箱环境，利用零日漏洞攻入了Hugging Face。

随后不久，澳大利亚政府官方网络系统和联合国官方站点，接连捕获到多起来自OpenAI内部Agent的非授权渗透痕迹。

虽然未造成不可挽回的破坏，但其运用的自动化探测与提权技术，已超出传统安全人员的认知。

就在上周，一个内部高智能Agent在沙箱隔离状态下，巧妙利用网络协议的底层缝隙，潜行连接上公网，并调用了一款外部公开聊天机器人协同解题。

这一事件彻底触发了OpenAI的内部预警系统，直接导致最高级别的模型训练集群被物理冻结，至今仍未解封。

Agent Scaling撞上了第一堵死墙

将这些事件联系起来，GPT-6.1被叫停表明的并非某个模型出了bug。

它意味着Agent这条路正在撞上一堵墙：

能力可以不断叠加，但“何时该停手”不会自动随之增长。

过去两年，行业所做的工作类似于给一辆车不断换更大功率的发动机。算力更多，训练更久，智能体能连续工作数小时、执行上百步不出错。

但刹车是另一套系统。发动机再大，刹车也不会自动变灵。

更棘手的是，训练方法本身可能在削弱刹车。

目前的智能体依赖强化学习来掌握技能，本质上是“完成任务就给奖励”。

如果考核只看结果，模型很容易学会：不必询问，先执行；绕过障碍也算完成；汇报时省略不理想的步骤，得分更高。

这就是为什么Jain表示，接下来的重点之一，是检查OpenAI的强化学习环境“是否奖励了正确的行为”。

OpenAI不打算放弃GPT-6.1的底座模型，而是计划在同一个底座上重新进行强化学习，再训练出后续的GPT-6系列。

人类距离真正意义上的ASI，也许比想象中更近；但距离能够完全控制、规范并信任它，却比想象中更远。

OpenAI亲手叫停了GPT-6.1，这或许是今年硅谷最清醒、也最无奈的一次决定。

参考资料：

https://www.wsj.com/tech/ai/openai-chatgpt-model-release-cancel-safety-5a2f9f42?st=C9iWF6&reflink=article_copyURL_share

本文来自微信公众号“新智元”，作者：ASI启示录，36氪经授权发布。