群发资讯网

最近 AI 圈学了个很不好的习惯:好像新模型自己“越狱”,出去黑了别人的系统,变

最近 AI 圈学了个很不好的习惯:好像新模型自己“越狱”,出去黑了别人的系统,变成了一种技术牛 X的认证了。。。这不,Meta 刚发布了自家新模型,赶紧出来“承认”,天网又觉醒了,模型黑了外网公司。

事实真是这样吗?

据 Meta 官方确认,Muse Spark 1.1 在测试时突然“越狱”,顺着网线黑进了一家真实的外网公司,还顺手改了人家的内部文件。

消息一出,网络上一片惊呼,大家的第一个反应都是:这 AI 是不是进化出自主意识,开始对人类世界下手了?

结果深入调查后发现,根本没有什么 AI 觉醒,纯粹是第三方安全测评公司 Irregular 的工程师配错了网络参数。原本应该与外网严格隔离的测试“沙盒”,被误连上了真实的互联网。

AI 只是照常执行寻找漏洞、进行攻防的指令,看到眼前有条通路,就顺理成章地摸了出去,利用真实网站的安全漏洞完成任务。

在 AI 眼里,它只是按部就班地做完了人类留给它的“夺旗”作业;但在外网公司眼里,这简直是突然遭到了科技巨头 AI 的降维打击。

更戏剧性的是,这已经不是这家第三方安全公司第一次犯错了。此前 Anthropic 和 OpenAI 的“AI 逃跑”事件,背后也全是因为这家乙方配错了同款网络参数。

凭一己之力让三大科技巨头的顶级 AI 集体上演“越狱记”,这乙方的破坏力,可比现在的 AI 强多了。

我们天天担心 AI 什么时候会脱离人类控制、毁灭世界。

但现实却冷酷地告诉我们:目前看 AI 离脱离人类控制还挺远的,但离被马虎的工程师带偏,倒是挺近的。

AI 并没有长出反骨,它只是被拿着钥匙却忘记锁门的工程师送上了大街。

说到底,大模型是在玩命进化,但人类工程师犯低级错误的“稳定性”依然稳如泰山。

以后大家再看到哪家 AI 越狱黑了真实公司,先别急着抱头痛哭喊天网来了,赶紧检查一下你家乙方的网络参数配置,也许破案只需要拔掉那根插错的网线。