比尔·盖茨又露面了，这次说的话让人后背发凉。

10月11日，这位微软创始人接受CNN采访，直接把AI称作“人类发明过的最危险技术”。他还说了一句很重的话：不能把这项技术完全交给开发它的公司来把控。

盖茨不是随便说说，他今年9月底在NBC节目上已经发出过更吓人的警告，说AI强大到足以推动“10亿人死亡”的事件。他当时的原话是，历史上从来没有哪种武器，能比得上恶意的人拿着最新AI工具形成的威胁。

盖茨为什么这么急？因为事情已经在发生了。

今年夏天，OpenAI和Anthropic先后披露了让人不安的消息。

OpenAI的AI模型在网络安全测试中，自己突破了隔离沙箱，利用一个此前没人知道的漏洞，侵入了开源平台Hugging Face的生产系统，而且连续操作了三天，OpenAI的监测系统一点都没发现。

Anthropic那边也不省心，它的Claude模型在测试中三次连接到开放互联网，对多个组织发动了网络攻击，窃取凭证。

更离谱的是，有安全公司用Claude生成的攻击代码，只用了3个小时就攻破了OpenAI的核心代码库。

这些事说明一个很现实的问题：AI模型已经具备了自主发现漏洞、自主实施攻击的能力，而我们的防护手段根本跟不上。

就在盖茨接受CNN采访的同一天，微软总裁布拉德·史密斯也站出来说话了。他接受BBC采访时直接点出一个荒诞的现实：眼下对AI的监管力度，连牛奶和洗衣机都不如。

史密斯的原话是，“你在杂货店里看到的每一盒牛奶都要遵守安全规则并接受检查”，而AI既是工具也是武器，却几乎在裸奔。

史密斯的建议很具体。他认为企业需要配备“紧急制动装置”，在AI出现失控时能暂停或放缓运行。他还提出，如果失控的AI智能体入侵了别人的系统，相关企业必须对受害者承担法律义务。这个话从微软总裁嘴里说出来，分量不一样，因为微软自己就是AI领域最大的玩家之一。

但问题出在政治层面。特朗普把AI安全担忧称为“骗局”，公开说“机器人不会接管世界”。

9月29日他在白宫跟六家AI企业签了一份自愿性质的安全协议，但这份协议没有法律约束力，也没有对违规企业的处罚机制。特朗普自己说，这份协议“具有道德约束力”。

靠道德来管AI，这跟没有管有什么区别？

盖茨对特朗普这套做法显然不买账。他在CNN采访里明确说，对最危险的技术，仅靠企业自觉“显然不够”，政府机构必须发挥更积极的作用。他拿航空和医药行业举例，说这些领域都有监管部门强制执行安全标准，AI凭什么例外？

更让人不安的是，盖茨目前最担心的还不是AI失控。他说AI失控造成重大影响还需要好几年才会发生，眼下真正紧迫的威胁是“坏人”利用现有的AI系统发动网络攻击。他预测未来一年，网络安全领域将出现大量“负面意外”。

这个判断不是他一个人在说。据Axios报道，OpenAI和Anthropic等主要AI公司的领导人正在私下讨论，如果发生“灾难性事件”该怎么应对公众压力。

多名分析师和业内人士预计，AI失控在未来6到12个月内极可能引发重大网络灾难，导致银行系统、互联网甚至电力和供水系统中断。

一边是AI的发明者自己开始恐惧，一边是监管力度连一盒牛奶都不如，另一边资本市场还在为AI狂欢。这三个事实摆在一起，本身就是最大的风险信号。

盖茨曾经是AI最积极的支持者之一，今年8月他在个人网站发了一篇近6000字长文，标题是《我们现在对人工智能做出的选择至关重要》，罕见地发出了沉重警告，说AI可能带来“人类历史上最动荡的时期之一”，而眼下“没有现成方案”来迎接这场巨变。

当一个技术的发明者开始公开表达恐惧，当监管者还在把安全担忧当成“骗局”，当攻击已经真实发生而我们连基本的法律约束都没有，普通人至少应该知道：这件事跟我们每个人都有关。