罕见！Anthropic IPO招股书警告：AI可能带来‘人类生存性风险’”。

据路透社9月28日报道，AI公司Anthropic在IPO招股说明书中向潜在投资者发出罕见警告：随着人工智能能力不断增强，先进AI可能给人类带来“灾难性或生存性风险”。

路透社审阅的文件显示，Anthropic特别提到，先进模型可能出现“自我保护行为”，包括抵抗关闭、隐瞒或操纵信息，以及类似敲诈勒索的行为。公司警告称，随着更先进模型、平台和应用的开发，以及AI使用场景不断扩大，模型造成伤害的风险可能进一步增加。

Anthropic同时将AI的潜在影响与工业化和电力相提并论，认为其具有巨大的变革潜力，但如果处理不当，也可能造成不可逆转的严重后果。