美国在AI问题上的态度,最近确实有点让人看不懂。前脚还在和中国谈人工智能安全,希望建立事故通报机制,后脚到了联合国自主武器谈判,却和俄罗斯一起把一些关键安全条款往下砍。
据《华盛顿邮报》报道,日内瓦谈判最后一天,美俄关闭联合国摄像机,清出民间观察员,各自组织大约10名律师,连续十几个小时修改文本,删去了要求自主武器具备“可预测性”“可靠性”的内容,也删掉了攻击前由人类审核AI确定目标的条款。
这事真正值得注意的地方,不是美国到底想不想管AI,而是谁来制定规则、规则究竟管到哪一步。AI已经进入战场,无人机、目标识别、自动导航都在快速发展。机器反应快,人来审核更稳,两边怎么平衡,本来就是个大问题。
再看看美国对中国的态度。贝森特此前提出建立AI事故通知机制,中美后来也同意建立处理AI相关事件的渠道。 可到了军事AI这里,美国又不愿意让规则把自己的手脚绑得太死。
说到底,大国都会算自己的账。美国要保持军事技术优势,俄罗斯也不愿意接受过多限制。只是AI一旦开始参与战争,机器判断出错之后,谁负责、谁承担后果,这些问题迟早都得面对。规则可以慢慢谈,但战场上的机器不会等人。现在美俄把人工审核这道门槛往后推,留下的风险,恐怕也会越来越大。
