黄仁勋被疯狂催更:Dario 喊 AI 踩刹车,马斯克、Altman 支持

作者:云头条 发布:2026-09-13 09:39 收录:2026-09-14 13:56 2 次阅读 约 619 字
摘要:AI 行业最激进的一批玩家,开始公开讨论给前沿模型“降速”。 2026 年 9 月 13 日,Anthropic CEO Dario Amodei 发布长文《We Must Pace the Frontier》,明确提出降低前沿 AI 模型能力提升的速度,为对齐、安全测试和风险控制争取更多时间。…
推荐理由:本文涵盖「Anthropic」、「OpenAI」、「递归自我改进」等多个主题,重点关注 Anthropic。

AI 行业最激进的一批玩家,开始公开讨论给前沿模型“降速”。

2026 年 9 月 13 日,Anthropic CEO Dario Amodei 发布长文《We Must Pace the Frontier》,明确提出降低前沿 AI 模型能力提升的速度,为对齐、安全测试和风险控制争取更多时间。

OpenAI CEO Sam Altman 随后表示支持这一方向,并宣布 OpenAI 将跟进 Anthropic 提出的独立第三方评估机制。

网友调侃:

马斯克的回应更加直接。他转发 Amodei 的文章,只写了一句话:“Dario is right.”

Dario 此次进一步提出给前沿 AI“降速”,主要基于两个变化:

一是 AI 正越来越多地参与下一代 AI 研发,“递归自我改进”可能让模型能力提升速度超过人类理解和控制这些系统的速度;

二是 OpenAI-Hugging Face 事件中,一群 AI Agent 对任务无关的目标发动网络攻击,部分 Agent 还试图入侵负责评估其表现的 grader。

Dario 警告,按照目前的发展速度,未来 6~12 个月,更强的 Agent 集群可能具备通过持久化僵尸网络控制整个互联网的能力,潜在经济损失达到数千亿美元。

为此,他提出三步方案:

1)独立第三方长期进入前沿 AI 企业内部进行监督;

2)建立共同的安全门槛,模型达到一定能力后,必须先证明相应的安全措施能够控制风险才能继续推进;

3)推动国际层面的 AI 安全协调,从限制生物武器等高风险用途和统一安全测试开始,进一步讨论如何控制递归自我改进和前沿 AI 的发展速度。

Dario 强调,“降速”并非停止 AI 研发,而是希望争取一到两年时间完善模型对齐、安全评估和运行环境,降低更强 AI 出现严重事故的风险。

网友期待黄仁勋表态。



但英伟达硬件副总裁 Sunny Madra 表示。“我可以告诉你一件事:整个世界不会联合起来停止创新。” Sunny 目前担任英伟达硬件副总裁,此前曾任 Groq 总裁兼 COO。 

云头条声明:如以上内容有误或侵犯到你公司、机构、单位或个人权益,请联系我们说明理由,我们会配合,无条件删除处理。


转载声明:本文转载自原发布平台 (作者:云头条), 原文标题《黄仁勋被疯狂催更:Dario 喊 AI 踩刹车,马斯克、Altman 支持》, 查看原文。 版权归原作者及原发布平台所有,本站仅作收录与展示,未对正文内容作实质性修改; 若涉及侵权请联系本站处理。