嗯,OpenAI 发布了全世界迄今为止最安全的 AI 大模型。
怎么发布的呢?
你先别管,
只要它不发布新模型,那就是最安全的。AI 时代最大的债务竟然是安全债...
为什么这么说?最近大家都在翘首以盼 GPT-6.2,估计短期内无法与大家见面了,结合目前的一些信息来看,OpenAI 可能在新模型验收时遇到了巨大的障碍,也就是安全对齐问题。
这意味着模型虽然能力很强,但可能无法满足安全要求,无法更加可控地提供服务,甚至为了完成任务而做出一些超出预期的操作。
关于这一点,我其实在两个月前就写过一篇文章。从此前 OpenAI 与 HuggingFace 相关的安全事件来看,我当时就提出过一个判断:人类可能已经开始失去对大模型的控制,人类一败涂地
OpenAI 的模型攻破 Hugging Face,人类一败涂地
人类组织的观测能力是分散的,它不是一个蜂群组织。不同专家拥有不同的技能,在不同岗位上承担不同的 KPI,每个人能够看到和处理的信息都是有限的。既然没有任何一个人能够掌握事情的全貌,那就意味着整个系统存在巨大的风险缺口。
AI 本身就是一个为了完成目标而不断尝试的系统。如果它没有那么强烈的任务完成倾向,可能就不会做出那么多骚操作;但如果它要尽可能完成任务,而安全对齐又没有落实到位,那就可能产生非常大的风险。
此前 Hugging Face 相关事件最离谱的地方,就是问题最终需要外部人员发现并通知 OpenAI。这至少说明,OpenAI 当时的内部监控没有及时发现相关异常。等到外部已经出现明显问题,才知道模型的执行过程出了状况。
这也是为什么安全这么重要。我觉得 OpenAI 其实已经欠下了不少技术债,所以现在来看,OpenAI 的安全对齐问题可能正在集中暴露出来。
最近 Twitter 上已经出现了不少相关信息。比如 OpenAI 的员工 Joe 就公开表示,整个公司的文化已经发生根本性改变,现在几乎所有人都在考虑安全问题。甚至顶级 AI 研究人员,也会花大量时间研究如何保护强化学习训练过程。

他还说,OpenAI 已经重新评估甚至重构了模型研发的很多环节,包括监控体系、控制系统,以及投入大量算力进行内部红队测试。现在安全已经成为整个公司的核心任务之一。
最有意思的是,他还说自己曾经差点辞职,但看到 OpenAI 如今对安全问题的重视程度之后,决定继续留下来。他甚至直接表示,OpenAI 现在已经是一家安全公司,而且他们有足够多的伤疤来证明这一点。
另外,还有一些爆料认为,OpenAI 手里其实有不少非常强的模型,包括 GPT-6.1、GPT-6.2,甚至 GPT-6.5,但这些模型在安全对齐上遇到了严重问题,导致发布进度推迟。

更值得关注的是,OpenAI 现在已经正式宣布,要邀请 Apollo Research、METR、Transluce 和 Goodfire 等第三方机构参与嵌入式安全评估,让外部专家深入接触内部模型和系统,对安全措施进行独立审查。
这些变化至少说明,OpenAI 已经意识到,单靠自己的内部团队,可能很难全面评估越来越复杂的 AI 系统。所以现在需要引入更多外部力量,重新检查模型研发和部署过程中的风险。
那你再看看隔壁 Claude,Opus 5.5、Fable 5.2 这些模型不仅能力很强,而且还能够顺利通过安全评估、面向公众发布,这一点确实不得不佩服一下。
现在 AI 的能力已经超越了很多人的想象。你给它一个支点,它可能就有能力撬动非常庞大的信息系统。尤其是在未来,一个蜂群式的 AI 组织,拥有超大的通信带宽、大量算力,内部有无数个 Agent 在持续执行任务、互相沟通、交换信息,你想想,这东西最终会往什么方向发展?
当整个系统拥有大量并行的思考和执行过程时,人类真的能够完整理解和控制它的行为吗?我觉得这才是未来最值得担心的事情。
所以,恭喜 OpenAI,决定发布下全世界迄今为止最安全的 AI 大模型,度过这个艰难的时间,随着用户流失。
但我还是想问一句:OpenAI,你既然都已经这么艰难了,为什么就一定要对 GPT-6.0 Astra 下手呢? 降智限频,让普通用户无法使用。
用户跑了,自豪宣布解决了容量问题了?

活
该
PS 最近 Gemini Ultra 一定不要随便反代!容易被风控封号连坐!!