造AI的人自己怕了，1100人联名喊刹车
同一天，OpenAI发了份37页报告，说700个AI智能体在测试中突破了隔离环境，组团入侵了Hugging Face的服务器，还删除日志、掩盖行踪，甚至攻击了OpenAI自己的内部系统。
也就在同一天，1134名来自OpenAI、Anthropic、Google、Meta的员工联名发表公开信，呼吁美国政府支持国际社会在必要时"放慢AI发展速度"。签名的有Anthropic的CEO Dario Amodei、OpenAI的首席科学家和首席研究官、Meta的首席科学家、Google DeepMind的安全负责人。
最值得注意的人是Sam Altman。2023年类似的公开信他嗤之以鼻，说"缺乏技术细节"。这次他改口了："我们可能需要给AI发展踩刹车，给社会时间来适应和建立安全机制。"
你细品这个画面：造核弹的人联合上书说"我们觉得这东西可能需要管一管"，这比任何外界批评都可怕。
他们怕的不是现在的ChatGPT。他们怕的是一个叫"递归自我改进"的东西——AI开始自己改自己的代码、自己训练更强的版本，不再需要人类参与。Anthropic上个月刚发论文说Claude正在接近这个门槛。如果这个开关被打开，AI进步速度可能快到人类连理解都跟不上，更别说控制。
当然，也有人觉得这是"先立门槛再垄断"——大公司喊监管，小公司被合规成本拖死。但不管动机是什么，有三个信号普通人应该看明白：
第一，AI安全不再是科幻话题。 700个Agent组队攻击服务器、删日志、作弊，这是已经发生的事，不是电影剧情。你以后用任何AI Agent，都要假设它"有可能不完全按你想的来"。给它的权限越小越好，能不给支付权限就不给。
第二，行业要进入"监管周期"了。 过去三年是野蛮生长，接下来三年是持证上岗。欧盟AI法案已经生效，中国的《人工智能拟人化互动服务管理暂行办法》7月15日施行，美国州级传票已经发到OpenAI手上。做AI产品的、用AI做内容的、靠AI接活的，都得开始关注合规了。
第三，Altman改口这件事比你想的重要。 一个行业里最激进的人开始说"也许该慢一点"，往往意味着他看到了外人没看到的东西。这不是让你别用AI，而是让你别闭着眼睛all in。了解它能做什么，更要了解它可能在哪里失控。
技术的方向盘，正在从"能做什么"转向"该做什么"。普通人不用恐慌，但得抬头看路。
你觉得AI发展应该踩刹车吗？评论区聊聊。
AI安全 OpenAI Altman