群发资讯网

OpenAI三名安全研究员被炒后集体发声,OpenAI却认可了他们部分建议 O

OpenAI三名安全研究员被炒后集体发声,OpenAI却认可了他们部分建议

OpenAI 上周解雇了 Jasmine Wang、Tomek Korbak 和 Mikita Balesni 三名安全研究员,现在三人一起发公开信,质疑公司给出的解雇理由。
OpenAI 的说法是,内部调查发现三人存在不当处理敏感研究信息的问题,而且不只是和外部安全机构沟通这么简单,因此解雇他们。
但三人的说法却明显不同,Wang 称误点了一封原本被授权访问的高管邮件,Korbak 表示与外部评测机构 METR 沟通本来就是本职的工作,Balesni 也称相关安全工作一直与公司管理层和董事会保持协调。
他们担心的是,这种突然解雇会让留下来的员工不知道什么还能说、什么不能说,最后连发现安全问题的人都不敢继续和外部专家沟通。
更微妙的是,OpenAI 内部备忘录一边坚持这不是对安全研究的报复,一边又认可了三人提出的几项建议,包括加强第三方安全评估、保留观察 AI 推理过程的能力,以及继续允许安全研究人员与外部机构交流。
现在外界还没有足够证据判断双方谁的说法更完整,但这件事已经把一个很现实的问题摆到了台面上,研究最危险 AI 的人,到底能把多少内部信息交给外部安全机构,这条边界如果说不清,安全研究本身也会越来越难做。