比尔·盖茨发出了一项罕见的严厉警告，指出人工智能潜在危险，若先进AI工具落入恶意行为者手中，可能会引发一连串导致灾难性生命损失的事件。盖茨说：“人工智能绝对强大到可以推动可能导致数十亿人死亡的事件。”

盖茨提到十亿人死亡并非预测人工智能会真正杀死那么多人。相反，他描述的是强大的人工智能技术被故意滥用的灾难性情景的潜在规模。

他更广泛的信息是，人工智能安全的责任不能仅仅交给开发这些系统的科技公司。

盖茨呼吁政府直接参与监管和监督人工智能，认为立法者和美国执法机构必须在制定这项快速发展技术的保障措施中发挥作用。

他说：“没人认为自我调节就足够了”。他说：“AI时代最大的安全问题，可能不是某一家公司故意做坏事，而是所有公司都知道应该慢一点，却因为竞争而不敢慢。”----------------------------------------他说了很多，这里不一一转摘。人类第一次面对一种可能比自己进化得更快的技术，却又把它放进了国家竞争、资本竞争和商业竞争的赛道。因此要说风险不存在是不可能的。真正的问题是先驱者已经发现问题（特别是前几天谷歌声称他们已经迎来AGI时代），但先驱者不可能，也没那个权力让所有后来者和他们一道启动暂缓令！这又让我们联想到前段时间Anthropic为首的几个巨头的呼吁。我不认为这里面有什么阴谋论——一开始我就没这么想（我是一个特别厌恶阴谋论的人）白宫最好不要显得太草率。仅从表面上看，那些AI巨头的呼吁显得不平等。但先驱者和后来者都有各自不同角度的不平等预感。结果就是：“我当然希望安全，但是我不能单方面减速。”这就是为什么那些巨头希望政府出面的原因。