比尔盖茨发出严厉警告我觉得最值得警惕的，其实不是AI哪天突然觉醒，把人类当敌人。真正危险的，是坏人突然变强了。

以前一个普通人想搞一次大规模网络攻击，或者研究一些极其危险的生物技术，门槛非常高。你得懂代码、懂专业知识，还得有设备、有团队、有资源。

AI正在干一件很可怕的事：把很多原本属于少数专业人士的能力，变成普通人也能调用的能力。这也是为什么我一直觉得，讨论AI安全，老盯着“AI会不会产生自我意识”有点跑偏。AI根本不需要恨人类。它只需要足够好用。

诈骗犯拿它批量生成以假乱真的声音和视频，黑客拿它找漏洞、写攻击代码，极端的人拿它学习以前根本接触不到的专业知识。过去一个坏人能力可能只有10分，有了AI以后，突然变成80分。

而且更麻烦的是，AI还在持续降低作恶成本。以前干坏事得招人、学技术、花几年时间；以后可能就是一句提示词、几个智能体，再加一张信用卡。所以我反而觉得，AI时代最值得担心的并不是“机器会不会变坏”。

机器可能一直都没有善恶，它只是把人的能力放大了。好人用它，生产力被放大；坏人用它，破坏力同样被放大。过去社会安全的一个隐形前提，是“很多坏事其实很难做”。

但AI正在把这个前提一点点拆掉。这才是比“AI毁灭人类”的科幻故事，更现实、也更棘手的问题。