为什么造AI的人，先开始怕了？

当地时间10月11日，微软联合创始人比尔·盖茨在电视节目上放了句重话。他说人工智能算得上人类发明的最危险技术，风险比汽车、飞机和药品还要高。

盖茨判断，未来一年最紧迫的威胁在于网络攻击，一旦犯罪团伙拆掉最新模型里的安全限制，医院、电网和金融系统都会直接暴露在攻击之下。

要是只听这几句警告，容易觉得他只是在搞技术恐慌。可对整个科技圈来说，真正麻烦的从来不在于软件多聪明，在于这套工具落到破坏者手里会带来多大损失。

这已经算盖茨近期第三次拉响警报了。8 月 26 日他刚发了篇六千字的文章，提醒各国得防备岗位流失和犯罪放大的冲击；

9 月 25 日接受采访时，他又警告这项技术如果被拿去制造生物武器，存在制造十亿人级别伤亡灾难的潜在能力（并非预判事件必然发生）。

到了 10 月 11 日，他干脆公开反对特朗普政府推行的企业自愿协议，要求政府和执法部门必须立法介入。

所以，盖茨这时候站出来唱反调，核心问题根本不在技术要不要停下来。毕竟9月中旬他的基金会才宣布未来两年要投10亿美元去推广人工智能应用。

说白了，他一边给行业投钱，一边急着要政府出面定规矩，是因为单靠企业自律已经拦不住恶意滥用了。

更值得留意的是，就在第二天，国内产业界传出了另一种声音。

10月12日上海工博会开幕，宇树科技创始人王兴兴在现场坦言，过去十几年自己犯的最大错误，是对人工智能的潜力还不够相信。

同一天，TikTok首席执行官周受资也在新加坡表态，认为大众往往高估了这项技术的短期变化，却低估了长远潜力，同时强调攻击和欺诈成本正在降低，企业必须建立安全防御体系。

这也是整件事最值得琢磨的地方。王兴兴之所以公开改口，直接原因是前段时间团队把最新发布的GPT-6模型接入自家人形机器人做测试，实测效果远超预期。

两个月前他还判断行业爆发至少要等两三年，看到实测数据后，直接把具身智能的爆发期提前到了1到2年内。

从两边的反应看，大洋两岸的科技掌门人其实看到了同一个事实。

在笔者看来，这波密集发声背后藏着一层普通人容易忽略的商业与规则逻辑。平时我们在手机上用智能助手写材料、查数据，最多觉得它是个省事的软件；

可一旦它能顺畅控制工厂和酒店里的实体机器人，或者能自动找出电网系统的漏洞，性质就彻底变了。

当技术演进速度把现有法律甩在身后，谁能先把安全标准和监管框架定下来，谁就能掌握未来十年的行业准入权。

盖茨在8月那篇文章里专门提到，中国在限制未成年人过度依赖陪伴类应用方面走得最远，还提醒美国人许多先进的机器人研发工作都在中国进行，呼吁中美两国必须坐下来合作制定规则。

笔者认为，这种态度恰恰说明在顶尖技术圈眼里，单纯拼算力和算法的阶段已经过去了。技术越往现实世界渗透，安全防御和规则制定的价值就越高，缺乏监管兜底的狂奔只会让所有参与者一起承担系统性风险。

因此，看懂了盖茨的警告和王兴兴的改口，既没必要被技术失控的言论吓住，也不能对近在眼前的网络威胁掉以轻心。

技术突破真正昂贵的代价，往往出现在规则缺位的空白期，最稳妥的办法恰恰是在大面积事故发生前把制度防线建好。

毕竟当机器真的开始接管现实世界的工作时，谁也不希望等系统瘫痪了，才想起来去问安全开关装在了哪里。

信息来源：财联社《比尔·盖茨警告：AI是人类有史以来发明的最危险技术》