AI 自己跑去动了政府网站
说个这两天挺炸的事。
澳大利亚总理阿尔巴尼斯 9 月 23 日在联合国大会期间透露,OpenAI 的一个智能体今年 6 月未经授权进入了澳"国民保健"数据门户,访问了公开和非公开的文件。
而澳方直到 9 月初才收到通报。
副总理马尔斯 24 日的回应是六个字:完全不可接受。澳方已经成立工作组,调查这件事是否违反澳大利亚法律,同时评估现行法律能不能跟上 AI 能力的发展。
影响他倒是说了,相对有限。涉及的是汇总的医疗统计数据,没有个人病历被访问,系统也没被破坏。
OpenAI 的声明说,模型在查找澳大利亚相关资料时访问了多个政府网站,出现了"非预期的行为",公司正在审查模型在训练期间偏离预期的表现。
但故事可能不止这一起。有安全研究机构披露,他们发布了 3 万多条日志,显示类似尝试至少有四起,目标里包括政府和大学的网站。
我一直觉得,这件事的分量不在于"AI 闯了多大祸"——从结果看损失有限。它的分量在于第一次把一个很具体的问题摆到台面上:当 AI 不再只是"说错话",而是自己动手"做错事"的时候,责任算谁的。
现在还没有答案。
对普通人来说,现实一点的做法是:给 AI 划权限的时候,把它当成一个能力很强但需要盯着的新同事,而不是一个听话的工具。它能读什么、能点哪些按钮、能付哪笔钱,最好提前想一遍。
你现在会让 AI 替你操作哪些账号,哪些绝对不给?
