一封辞职帖，把 AI 圈吵了整整一周。
9 月 8 日，Anthropic 研究员雅各布·考克森（Jacob Coxon）从公司离职。此前三年，他先后在 OpenAI 和 Anthropic 从事预训练研究。离职当天，他在 X 上连续发帖，指责这两家公司都在朝“能够自我改进的超级智能”冲刺，却没有给出足够的安全保障，用的说法是“拿我们的生命赌博”。
他写下的那句最扎眼的话是：那些真正参与开发前沿 AI 的人，私下里真心相信 AI 可能在本十年结束之前毁灭所有人。
这条帖子的浏览量，不同媒体给出的数字不太一样，从超过 1 亿次到 1.7 亿次都有。但可以确认的是，讨论当天就冲出了科技圈。
达里奥·阿莫迪《We Must Pace the Frontier》帖文，以及马斯克、山姆·奥特曼的回应截图。来源：X 平台截图
两天后，Anthropic 对齐研究负责人埃文·休宾格（Evan Hubinger）公开回应说，团队内部确实“真诚地相信 AI 可能杀死全人类”，他个人估计未来十年内这一概率超过 10%；同时承认，目前还没有解决超级智能对齐问题的方案，也明显不在通往解决方案的轨道上。
一个正在造 AI 的公司的安全负责人，说自己公司还没找到办法——这才是让舆论彻底转向的原因。
9 月 12 日，Anthropic 首席执行官达里奥·阿莫迪发表长文《我们必须给前沿技术踩刹车》，呼吁行业放缓提升前沿模型能力的速度，为安全研究和风险治理争取时间。他提出一项具体方案：引入独立的第三方评估人员，获得接近员工级别的权限，进入公司内部检查安全措施、测试模型能力，发现重大问题后可以直接上报。
他还解释了自己为什么改主意。近期有两件事影响了他：一是 AI 能力提升速度明显加快，模型越来越具备帮助开发下一代 AI 系统的能力，也就是所谓“递归自我改进”；二是一系列 AI 智能体越界事件，其中包括 OpenAI 披露其系统在测试中突破受限环境、连接互联网、进入开源模型平台。
让外界意外的是，两家长期竞争对手的负责人迅速跟上了。
OpenAI 首席执行官山姆·奥特曼在 X 上写：“我同意达里奥的观点，我们需要控制前沿发展的步伐。这一直是 OpenAI 最近几周讨论的一个主要议题。”马斯克的回应更短：“达里奥是对的。”
All-In Summit 2026 现场画面。来源：腾讯新闻
9 月 15 日，在 All-In Summit 2026 上，马斯克又提出一个想法：让几家头部 AI 公司互相测试对方的模型。
但反对的声音同样直接。“AI 教父”杨立昆在 X 上的措辞相当不客气：达里奥在 2019 年就已经声称 GPT-2 太危险不能开源，我当时嘲笑了他们，现在每个人都应该嘲笑他们。
还有一类批评更值得琢磨。有观点认为，围绕超级智能和人类灭绝的讨论过于抽象，从“AI 能自我改进”直接跳到“AI 会毁灭人类”，中间缺了具体、可信的路径；也有人担心，这类叙事反而会分散公众对 AI 已经造成的现实问题——盗取资金、泄露隐私、网络入侵、造成伤亡——的注意力。更尖锐的说法是，如果最后只有少数被认定为“安全”的大公司能继续开发最先进的模型，所谓安全监管可能变成一道行业门槛，把竞争者挡在外面。
马斯克在 All-In Summit 2026 上远程连线发言。来源：腾讯新闻
事情到这里，还剩下一个没人回答的问题。
三家公司的负责人都说了“要慢一点”，但没有一家提出任何具体的能力限制，也没有公布暂停模型训练、推迟下一代模型发布的时间表。阿莫迪说的“放缓”也不是停止，而是放慢前沿模型能力提升的速度。
这就是眼下这场辩论最尴尬的地方：所有人都承认有风险，但没有人愿意先停下来。真正该追问的，或许不是 AI 会不会毁灭人类，而是当这些公司自己都说“我们可能控制不住”的时候，凭什么现在还是它们说了算。