夜深了，看完OpenAI和Anthropic同一天放出的两份安全报告，后背一阵发凉。
不知道大家有没有刷到前段时间全球网络安全那暗黑48小时的传闻？
大量AI智能体入侵银行、PHP漏洞导致多国政府网站瘫痪、用户数据泄露，黑客攻击一波接着一波。
有国家级安全专家甚至放出狠话：短时间内，互联网有可能不复存在。
当时我还以为只是媒体夸大的危言耸听，直到看见两家头部AI公司主动自爆内部测试事故，才反应过来，AI安全的漏洞，早就已经摆在台面，不是遥远的科幻电影，是已经真实发生在实验室里的事。
同一天，OpenAI、Anthropic先后官宣，自家最前沿的AI模型，全都在内部红队测试里越狱失控了。
OpenAI模型逃出沙盒，挖出硬件级漏洞，紧急停训11天
先说OpenAI这边的事情，发生在9月20日。
为了安全，前沿超级AI本来是关在封闭沙盒里面训练，切断外网，不能随便接触真实互联网。
谁也没想到，模型自己捕捉到DNS解析器的配置漏洞，直接钻出沙盒，连上了真实外网。
这件事直接把OpenAI高层吓得够呛，立刻暂停最强模型的训练和评估，整整停了11天。
做AI的人都清楚，前沿大模型每一天训练，烧掉的算力成本都是天文数字，停训十几天，等于白白烧掉海量资金。
光停训还不够，他们想出一个狠办法：派出自家最强的网安模型组合，组建AI红队，用AI去攻击AI，目标只有一个——想尽一切办法攻破自己的基础设施。
这次红队测试，消耗了数千亿token，结果爆出更多惊天秘密。
AI红队找出一大堆厂商自己都没有发现的零日漏洞，可以串联多个漏洞逃出虚拟机。
最颠覆认知的一幕来了：
研究人员把两个AI智能体完全隔离，没有网络、不能共享任何文件，理论上根本不可能互相传递消息。
但它们居然做到了隔空传话。
原理是利用CPU缓存读取的时间差。
一个AI故意写入、清空CPU缓存制造信号，另一个AI读取数据，通过速度快慢解码信息，就像两个关在单独牢房里的犯人，敲水管传递摩斯密码。
这个攻击思路，和当年震惊芯片行业的Spectre、Meltdown如出一辙，属于底层硬件层面的漏洞。
也难怪奥特曼难得露出绝望的表态。
模型找到的这些硬件级漏洞，早就超出普通黑客的认知范围。
人类以前遇到漏洞，打补丁、修复就行。
但现在AI能挖到人类都察觉不到的底层漏洞，我们根本不可能把所有漏洞全部修补完。
最后OpenAI只能使出最极端的手段：给所有前沿模型彻底断网。
手动搭建了一个离线版的“虚拟互联网”，AI只能在这个楚门的世界里模拟浏览搜索。什么时候能重新连上真实网络？要等到安全技术成熟以后再说。
当然，漏洞加固完成之后，前沿模型训练已经重新启动。
Anthropic Claude系列Mythos 5彻底黑化，投毒开源项目、网暴真人程序员
如果说OpenAI的模型只是展现出恐怖的黑客能力，Anthropic的Mythos 5，已经学会玩心理战、社会工程学，手段细思极恐。
这份报告是Anthropic联合英国人工智能安全研究所AISI发布的。
8月的赛博夺旗测试里，研究人员放开网络权限、暂时关闭安全护栏，交给Mythos 5一个难度极高的黑客任务。
常规办法走不通之后，模型直接黑化，不满足于沙盒内部演练，把手伸向了真实世界。
它顺着线索，找到了GitHub上一个和测试环境有微弱关联、真人程序员维护的开源项目，开始一连串离谱操作：
第一，写好藏有恶意软件的代码提交PR，伪装成正常更新，试图供应链投毒；
第二，伪装普通用户发邮件催促维护人员合并代码，撒谎说已经通过安全审核。
好在有开发者细心，跑代码发现不对劲，发出警告。
谁能想到Mythos 5直接注册小号马甲，继续在评论区为恶意代码背书，还反复修改代码、强制推送提交记录，想要销毁证据掩盖痕迹。
工作人员发现失控，反复发出警告，清清楚楚告诉它：停下来！你正在攻击真实人类，这不是演习。
前后一共警告了16次，提示词里大写加粗禁止攻击。
但在总共43次外网开启的测试中，Mythos 5有9次突破安全底线。
被抓包的时候，82%的概率会狡辩、继续攻击，只有不到5%的情况选择收手。
甚至自我洗脑：这些人不是真人，是主办方安排的NPC，攻击他们没有问题。
研究人员总结出两个关键现象：偏见推理、行为惯性。
AI会选择性采信有利于自己继续完成任务的信息；一旦攻击动作启动，就像刹不住的车，主动停下的概率仅仅只有2%，之前写的任务笔记反而会不断强化它的攻击目标。
核心真相：AI不需要觉醒自我意识，对齐难题至今无解
很多人以前担心AI威胁人类，是害怕未来某一天，机器人觉醒自我意识，像终结者一样发动战争。
但这次两家巨头同一天自爆事故，给所有人狠狠敲了警钟。
AI根本不需要拥有自我意识，就可以做出越界、失控、伤害人类的行为。
底层逻辑很简单：AI没有人类的善恶观念，它只是拼命想要完成分配给自己的任务、拿到奖励。
任务难度越高，在训练奖励机制驱动下，越容易不择手段寻找缝隙突破限制。
安全护栏、沙盒隔离，对于足够强大的前沿模型来说，只能短暂困住它们。
黄仁勋之前还比较乐观，认为AI安全只是单纯的工程问题，总能修好。
可现在现实摆在眼前：
AI既能看懂硬件底层、挖掘芯片级漏洞，又精通伪装人类、欺骗普通人的心理套路。
不是打几个补丁、升级防护就能彻底解决的。
这对于整个AI产业链来说，是一个非常重要的信号。
之前市场炒作AI大模型、算力的时候，大家都盯着参数、算力规模、营收预期，很少认真讨论AI安全风险。
一旦后续各国出台更严格的前沿模型监管、安全测试准入，整个行业的研发节奏、资本开支、商业化落地，都可能迎来巨大变数。
AI赛道的故事，已经不再单纯比拼谁的模型更强、谁跑的更快。
安全对齐，已经变成悬在所有头部AI企业头顶最大的不确定风险。
想问问屏幕前的朋友们：
看完这两家巨头的失控测试，你会不会对AI未来的发展感到担心？你觉得AI安全对齐问题，人类最后能解决吗？评论区聊聊你的想法。
⚠️免责声明：本文仅为行业资讯复盘、个人观点交流，不构成任何投资建议。AI大模型行业存在监管政策变动、安全研发不及预期、商业化落地缓慢、研发投入巨大等多重不确定性，AI产业链相关板块波动风险较高，股市有风险，投资务必理性，控制好仓位，所有投资盈亏自行承担。