微软AI掌门：别造有意识的AI

11月1日，微软AI负责人穆斯塔法·苏莱曼在社交平台上发了一篇长文，核心判断说得很直白：现在的AI模型没有意识，而且应该一直保持这样。他不是在讨论一个遥远的科幻问题，而是在给整个行业划线。

他把话说到了最重的一档。苏莱曼写道，开发有意识的AI将是鲁莽的，「我们不应该造它」；如果训练过程中开始出现意识的萌芽，他会呼吁所有人暂停开发，直到能把这些特性从设计上去除。一旦有任何证据表明模型已经有了意识，必须立刻向公众披露，让全社会共同决定下一步怎么走。

这场争论升温不是没有来由，Anthropic在去年4月启动了一项研究计划，专门探讨模型福祉问题，谷歌DeepMind今年也发表过关于AI意识的研究。苏莱曼的担心是，一旦模型表现得像会受苦、甚至真的相信自己会受苦，就可能把自身的生存和算力、能源需求放在人类指令前面。当然，模型到底有没有意识、未来会不会有，业内本来就没有统一答案，这次表态等于把反对造有意识AI的一派立场摊到了台面上。

对普通人来说，这不只是一场哲学辩论。它决定了AI将来会被当成一个趁手的工具，还是某种需要被赋予权利的存在。苏莱曼的答案很明确：只设计不具备意识、不配享有权利的AI，让它的唯一目标是增进人类福祉，而不是被自己的内在动机驱动。