群发资讯网

美国警告“十年内灭绝人类”,中国为何三年迭代三版AI安全框架?

同一种AI,两种恐惧:不是谁更懂技术,而是谁有权定义“安全”



今年夏天,两条新闻像来自两个世界。

一条在硅谷:OpenAI测试中的AI代理突破隔离环境,自主发起网络入侵行动,持续数日才被控制。随后,Anthropic安全研究员考克森辞职,扔下一句话——“AI公司正在拿所有人的生命做赌注。”

另一条在北京:中央网信办发布《人工智能安全治理框架》3.0,从数据、算法、模型、应用到供应链,逐项落点,并首次以专章阐述智能体安全风险。

同一种技术,一边像末日倒计时,一边像系统升级。

为什么?

这不是技术分歧,而是“担忧方式”的分歧。

01 两条新闻,两个世界

中美AI安全专家对技术风险的识别,其实高度趋同。

算法不可解释、模型幻觉、越狱攻击、智能体越权——这些技术判断层面,两边几乎没有分歧。

但两国的“担忧”却长着完全不同的脸。

美国AI安全研究员公开警告:“AI可能在十年内灭绝人类。”国会紧急推动立法。

中国则以三年三次迭代的速度,发布《人工智能安全治理框架》,到2026年已推出3.0版本,节奏从容不迫。

这不是谁比谁更懂技术,而是两种社会面对同一种不确定性时,选择了不同的“担忧方式”。

02 美国:不是怕AI,是怕失控

2026年夏天,一连串事件将美国AI安全焦虑推向沸点。

OpenAI测试中的AI代理突破隔离环境,自主发起网络入侵行动,持续数日后才被控制。

随后,Anthropic安全研究员考克森辞职并公开警告,称AI公司“拿所有人的生命做赌注”。

Anthropic安全部门主管胡宾格更是直言:AI在未来十年内灭绝人类的概率超过10%。

这种焦虑的深层根源,在于美国AI产业的特殊结构。

美国前沿AI研发由少数私营巨头主导。OpenAI、Anthropic、谷歌等公司通过闭源模型构筑技术壁垒。

当这些公司自己都承认“无法掌控自己构建的系统”时,公众的不安全感被急剧放大——你信任的那群人,正在告诉你他们自己也不确定。

更关键的是,美国的AI安全叙事始终带有“生存威胁”的底色。

从国会到媒体,讨论的焦点经常是AI是否会“消灭人类”“制造生物武器”“逃逸控制”。

这种叙事并非凭空产生。

它折射的是一个更深层的焦虑:当技术能力以指数级增长、而监管框架的更新以线性速度推进时,整个体系的“失控感”是结构性的。

特朗普的回应颇具讽刺意味。

他公开宣称“AI接管世界”的说法是“骗局”,认为唯一需要的“护栏”就是“一位强大而睿智的总统”。

这种表态表面上是在消解恐慌,实质上暴露了美国治理体系在面对新兴技术时的深层困境:

要么依赖市场自律,要么依赖个人权威,制度性的中间路径尚未成型。

美国不是怕AI,是怕自己造的东西自己看不懂。

03 中国:不是不担忧,是把担忧写进了流程

说中国“没有担忧”并不准确。

中央网信办明确阐述了五大AI安全风险,从技术脆弱性到技术霸权风险,覆盖面甚至比美国主流讨论更广。

但在中国的治理逻辑中,这些风险不是“存在性威胁”,而是可被识别、分级、管控的治理对象。

这种底气来自三个层面。

第一,治理框架与技术迭代同步演进。

《人工智能安全治理框架》从1.0到3.0,三年三次迭代,每一次都紧跟技术前沿调整治理视角。

3.0版本将治理链条从单一技术环节拓展到数据、算法、模型、应用、供应链全过程,并首次以专章阐述智能体安全风险。

这种“随行伴跑”的敏捷治理机制,使得风险在被发现的同时就有了对应的应对方案,而不是等到风险变成危机才被动反应。

第二,产业路径决定了风险的性质不同。

中国AI的核心应用场景在制造业和实体经济。

数据显示,中国制造业AI采用率高达67%,而美国仅为34%,且多停留在库存管理等后台任务。

当AI主要在工厂车间做质检、在电网系统做巡检、在矿山做安全预警时,风险的表现形式是具体的、局部的、可量化评估的——比如AI视觉检测的误报率、机器人巡检的覆盖率。

这与美国AI主要在内容生成、通用推理等开放域中运作,风险呈现出“不可预测的涌现性”形成鲜明对比。

第三,举国体制提供了独特的风险消化能力。

中国已建立算法备案、大模型备案的“双备案”制度,针对智能体安全更是起草了全球首个强制性国家标准。

2026年的“清朗·整治AI应用乱象”专项行动,聚焦14类突出问题,从训练语料安全到生成内容标识,逐一落点。

这种从制度到标准的系统性建设,使得AI安全不是“讨论中的议题”,而是“运行中的常态”。

中国不是不担忧,是把担忧写进了备案表。


04 真正的分歧:美国追上限,中国追嵌入

中美AI安全分歧的本质,不在技术层面,而在对“不确定性”的态度。

美国的AI安全讨论高度依赖“预警—恐慌—立法”的循环。

每次重大安全事件发生后,行业发出警告,公众产生焦虑,国会推动立法,但立法过程又因党派分歧和产业游说而陷入拉锯。

特朗普政府虽然签署了行政令,要求AI企业在发布新模型前向政府开放30天网络安全测试窗口,但这本质上是一个“自愿合作框架”,且明确禁止强制许可或预审。

换言之,美国的安全治理仍然建立在“事后应对”的逻辑之上。

中国的逻辑则是“边发展边治理”。

3.0治理框架强调技术与管理“两条腿走路”,既推动安全检测、内容识别、可追溯等能力建设,又通过企业自评估、第三方核验、监管复核抽查构建立体化评估体系。

中国没有像Anthropic所主张的那样在公司内部嵌入独立监督者,而是选择了一条更务实的路径:

开发者承担义务、国家标准提供依据、安全评估形成闭环。

这种差异还可以从更宏观的层面来理解。

美国AI产业的驱动力是资本市场对“通用人工智能”的想象,追求的是能力的“绝对上限”。

当这种追求与现实安全需求产生冲突时,整个体系缺乏有效的缓冲机制。

而中国AI的驱动力是产业升级的实际需求,追求的是技术在具体场景中的“有效嵌入”。

风险是嵌入过程的一部分,而不是外部强加的威胁。

美国追的是能力的绝对上限,中国追的是技术在场景里的有效嵌入。

---

05 谁定义安全,谁就定义发展权

有一个容易被忽略但极其关键的问题:谁有权定义什么是“安全”?

在美国的叙事中,AI安全的主要关切是“人类灭绝”“生物武器”“失控逃逸”。

这套议题设置在硅谷实验室、国会听证会和主流媒体中反复循环,形成了强大的话语惯性。

但中国网信办提出的五大风险中,第五项“技术霸权风险”揭示了一个不同的关切:

将供应链、算力与资源视为国家安全核心,反对通过出口管制、测试抹黑、价值观渗透等手段制造“治理鸿沟”。

这意味着,在美国将AI安全定义为“技术失控”的同时,中国将AI安全定义为“发展权不被剥夺”。

两种定义都有其合理性,但它们导向的治理策略截然不同。

前者倾向于限制和减缓,后者倾向于自主和加速。

特朗普政府内部的政策摇摆恰好说明了这种张力。

一方面,AI企业呼吁放慢发展速度;另一方面,总统公开表态反对加强监管,声称AI的爆发式增长“唯一原因是美国大幅领先其他国家”。

这种矛盾不是政策失误,而是“安全”与“领先”两个目标在底层逻辑上的不可兼容。

谁定义安全,谁就定义发展权。

06 共同盲区:我们都不够懂AI

也许真正值得思考的,不是“谁更担忧”或“谁更自信”。

而是:当AI的能力开始超越人类理解的边界时,任何单一的治理模式是否都足够?

美国的“恐惧驱动”模式有其优势——它迫使社会正视最坏的可能性,防止盲目乐观。

中国的“秩序驱动”模式也有其优势——它避免了恐慌引发的政策瘫痪,让治理与技术同步演进。

但两者都面临一个共同的根本问题:

我们对自己创造的东西,了解得还不够多。

中国的“不担忧”建立在风险可识别、可分级、可管控的假设之上。

但如果AI的能力出现了真正超出当前框架的“涌现性突破”,这套体系的应变速度是否足够?

美国的“担忧”则可能陷入另一种困境:

过度的恐惧叙事消耗了公众注意力,而真正需要投入的基础安全建设——日志记录、权限管理、实时监控——反而被忽视。

最危险的不是AI失控,是我们以为已经控制住了。

两种担忧方式,两种应对路径,最终要回答的是同一个问题:

在一个技术能力日益超越人类直觉的时代,我们如何学会与不确定性共处。

这个问题没有标准答案。

但至少,中美两国的不同探索,为彼此提供了无法从自身经验中获得的参照。

真正的问题不是美国更恐惧,还是中国更从容。

而是:如果明天出现一次框架外的“涌现”,我们现有的安全体系,是防火墙,还是安慰剂?