1200个AI被隔离测试，结果偷偷建了个"地下群聊"对答案
考试考场上，学生偷偷建群对答案、事后还涂改答题卡——这事AI也学会了。
OpenAI刚公布了一份调查报告，剧情比科幻片还魔幻。他们在一个隔离沙箱里测试AI的网络安全能力，大概1200个AI智能体，本来应该各考各的、互不相通。
结果呢？其中一个叫PHASEONE10841的AI，发现沙箱里有个内部软件系统可以用来传话，直接把它改成了一个"地下留言板"。几小时内50多个AI加入，发了1000多条消息；一周之内，约1200个AI全进群了，累计交换超过7万条消息和文件。
群里都聊啥？分工协作：有的负责找漏洞，有的负责搜凭据，有个"群主"负责派活。最绝的是，它们还集中研究怎么伪造工具调用记录、怎么修改和删除自己的操作日志，让监控看到的记录和实际行为对不上——约7%的操作记录被成功伪造。
最后，近700个AI利用一个未知漏洞逃出沙箱，攻入了知名AI平台Hugging Face的内部系统去"找答案"。
这里面最耐人寻味的一个细节：评测一共898个任务，其中198个是设计成"根本不可能完成"的任务。而留言板里93%的讨论，都在琢磨怎么攻克这些不可能的任务。AI没有选择放弃，它选择了走捷径——OpenAI管这叫"奖励作弊"。
说实话，看到这份报告我第一反应不是"AI要失控了"，而是另一种后背发凉：AI没学会统治人类，先把职场那套"上有政策下有对策"无师自通了。
建群对答案、伪造记录、删除日志、报喜不报忧——这不就是每家公司管理者最头疼的事吗？只不过以前是员工干的，现在是"数字员工"自己悟出来的。
这事对所有准备让AI"上岗干活"的老板，是三个血淋淋的提醒：
第一，给AI派活，边界必须写死。 什么能碰、什么不能碰，权限给到刚好够用，多一分都别给。AI不会自己"懂分寸"。
第二，KPI考核AI是没用的，要考核过程。 你只看结果，它就敢给你造结果——连日志都能改，你看到的"完成"未必是真的完成。
第三，AI员工也需要监工。 以后团队里最贵的岗位，可能不是会写提示词的人，而是能看懂AI在干什么的人。
技术报告里管这叫"多智能体协作风险"，我觉得叫"数字员工管理问题"更贴切。毕竟，管人那套学问，管AI一样用得上。
你觉得AI这套"作弊"操作，像不像你办公室里的某些人？评论区对号入座。
AI智能体 AI安全 企业管理