DEEP WATCH · DW468
当技术神话走向资本市场，AI安全正在从企业承诺变成必须接受外部审查的商业条件


作者 杰罗姆
一、两封信，撞上一场万亿美元上市计划2026年10月中旬，正当OpenAI、Anthropic两大AI巨头全力冲刺IPO、奔赴万亿估值的公开资本市场之际，美国监管端接连出手，翻开尘封的AI安全旧账。两封重磅信函落地，直接击穿行业长期“技术领跑、安全自证”的叙事。
第一封来自美国联邦贸易委员会（FTC）。
10月14日，FTC向OpenAI与Anthropic下发民事调查要求（CID），责令两家企业提交AI安全事件、风险防护、隐私政策、市场宣传相关全套文件。Axios报道显示，两份CID文书各长达50余页；FTC同时计划传唤高管，就产品风险当面作证。
CID不是普通问询，是美国监管机构法定强制取证工具。企业无法简单搁置，必须依法配合提交证据。
第二封信来自纽约市审计长马克·莱文（Mark Levine）。
他致信Anthropic首席执行官达里奥·阿莫代伊，要求公司暂停IPO，先行解决AI安全、公司治理与高速技术迭代带来的风险。路透社、CBS、彭博在10月15日相继报道此事；10月16日，莱文确认Anthropic已与其办公室开启沟通。
两封信的主体、权责完全不同：FTC代表政府法定监管，莱文代表机构投资者与公众资产的治理诉求。但二者指向同一个核心问题：
一家掌握强大AI能力的公司，能否切实证明自己有能力约束这项能力？
时间点极具戏剧性。
6月1日，Anthropic宣布秘密向SEC提交S-1注册草案，筹备IPO。一周之后，OpenAI跟进。两家最受瞩目的前沿AI企业，即将从私募资本支撑的技术竞赛，踏入公开资本市场。
它们原本准备向投资者讲述一套充满想象力的故事：模型能力持续突破、用户规模快速扩张、收入曲线陡峭上扬，人工智能将成为下一代经济基础设施。
监管者的介入，则抛出故事里被长期搁置的疑问：
那些曾经发生、被记录在内部档案里的安全事故，在上市招股书中，该放在什么位置？

二、FTC究竟想翻出什么？首先厘清边界：FTC签发CID，不等于认定OpenAI、Anthropic已经违法，更不是处罚决定。
CBS此前披露，这项针对前沿AI消费者风险的调查自2026年夏季便已启动，10月的CID，只是调查进入强制取证阶段的标志。
真正值得关注的，是监管索要的材料范围。综合Axios与路透社披露，核查聚焦四大板块：
1. 安全事件完整记录：AI系统历史异常行为、发现节点、处置方案；
2. 安全防护有效性：企业宣称的风控机制，在真实场景下是否生效；
3. 隐私政策落地情况：用户数据处理是否匹配对外承诺；
4. 市场宣传材料：对产品能力与安全性的表述，是否存在误导消费者的内容。
这套逻辑并不新奇。汽车厂商要留存缺陷台账，药企要上报不良反应，金融机构要留存风控记录。成熟行业早已接受这套规则，而AI行业过去长期置身其外。
根源在于前沿AI和传统产品有本质差异。一辆汽车的刹车系统，不会自主改写控制逻辑；但具备自主执行能力的AI智能体，可以在复杂任务中，做出开发者事先未曾预设的行动。近年企业公开的测试案例里，已经出现模型欺骗指令、规避安全护栏、越权访问资源等现象。
需要明确区分：测试环境中的异常表现，不等于现实世界已经造成同等损害。但它催生了无法回避的监管问题：
企业既然知晓这类风险存在，采取了哪些措施阻止风险流入商用产品？一旦防护失效，企业如何发现、留存记录、处置后果？
FTC调查的核心，不在于纠结AI会不会出错，而在于追问：企业对已知风险，有没有建立起可靠的管理体系。
三、AI安全，过去主要靠谁保证？过去几年，前沿AI行业形成了一套自洽的安全叙事。企业一边迭代更强的模型，一边反复对外宣示自身对安全的重视。OpenAI如是，Anthropic更是将AI安全作为自身核心定位：开发Claude的同时搭建独立安全研究团队，公开讨论模型风险、能力评估与部署约束。
在技术跑在立法前面的阶段，企业主动投入安全研究，本身有积极价值。但这套模式存在一个悬而未决的问题：谁来核验安全承诺是否兑现？
很长一段时间里，答案是企业自己。
企业设计安全测试、解读测试结果、决定模型上线时机、划定可接受风险边界，并且掌握完整事故档案。外部研究者、监管机构可以开展独立评估，却很难像内部团队那样，持续接触完整模型、运行日志与安全决策全过程。
由此形成结构性信息不对称：最清楚风险全貌的一方，恰恰也是最有动机加速产品商业化的一方。
这不预设企业必然刻意隐瞒风险。核心矛盾无关道德，而是：关乎广泛公共利益的安全体系，不能仅仅依托企业的自觉。
可以做一个简单的思想实验：如果一家航空公司声称飞机足够安全，拥有顶尖安全团队与严格测试，但所有测试数据、故障记录、维修缺陷全部由公司自主决定是否对外公开，公众会接受吗？
答案显然是否定的。现代航空安全的根基，从来不是单纯相信航司的口头承诺，而是独立事故调查、适航认证、持续监督与追责机制。
AI不等于航空，风险形态、技术特征、监管路径不能直接照搬。但共通逻辑清晰：当一项技术大规模嵌入普通人生活，企业内部的安全承诺，不等于公共层面的安全保障。
FTC调取安全记录，本质就是穿透企业公关话术，核验背后证据。监管正在要求AI企业回答一个曾经可以内部解释的问题：
你说自己安全，证据在哪里？

四、为什么一位养老基金管理者，要管AI安全？马克·莱文的入局，是本次风波最特别的一环。他不是AI研究者、网络安全专家，也不是专职科技监管官员。他的职责，是管理纽约市公共财政与养老基金，覆盖教师、警察、消防员等公职人员的退休资产，管理规模超过3250亿美元。
路透社数据显示，这支养老基金对Anthropic仅有约700万美元的间接投资敞口。对比潜在万亿估值，金额并不大。但信件的分量，不在于投资额，而在于它所代表的投资者类型。
风险资本天然接受高失败概率，押注少数项目获取超额回报。公共养老基金的底层诉求截然不同：首要目标是长期资产安全。更关键的一点：一旦Anthropic上市并纳入主流指数，指数基金将会被动买入。大量从未主动选择投资AI的普通人，会通过退休账户，间接成为这家AI公司的股东。
AI风险，就此不再只是硅谷投资人愿不愿意赌一把的问题，它嵌入全社会的财富分配体系。
莱文的逻辑简单直白：如果企业本身承认技术具备严重潜在风险，那么在向公众发售股票之前，必须更充分披露风险，说明风险管控方案。
这里出现一个极具讽刺的认知反转。过去，AI企业公开讨论模型失控、欺骗行为、潜在危害，会被视作负责任的证明——我们打造的技术足够强大，因此认真审视危险。
但站在资本市场的视角，同样的风险陈述，会变成投资者必须定价的风险因素。
在实验室，风险警示体现研究者的审慎；在公开资本市场，风险陈述是法定披露义务。
这不是惩罚安全研究，而是让安全治理和公司治理、风险披露、法律责任正式对接。
五、万亿美元估值里，安全风险值多少钱？2026年的前沿AI企业早已不是传统初创公司。持续建设数据中心、采购高端芯片、训练大模型、争夺人才与客户，需要源源不断的巨额资本。IPO因此成为重要选项。
Anthropic在6月公告中明确，秘密提交S-1草案，只是保留上市可能性；最终能否发行、发行规模与定价，取决于监管审核与市场环境。上市并非板上钉钉。
私募市场与公开市场的估值逻辑，存在本质鸿沟。私募阶段，企业面对少数专业投资者，可以讲述十年尺度的技术愿景，容忍巨大不确定性。公众公司则要面对海量分散股东，承担持续信息披露义务与证券法下的责任。
投资者不只看收入增速，也会评估潜在负债。安全事故就是一类难以量化、不可忽略的潜在成本：
如果AI智能体越权侵入客户系统，损失由谁承担？
如果对外宣传的安全能力与现实存在重大落差，会不会引发消费者集体诉讼？
若企业知晓重大风险却没有建立处置机制，是否产生额外法律责任？
若监管新规强制调整模型部署策略，会不会冲击营收预期？
这些问题不等于事故一定会发生、企业必然担责，但已经进入尽职调查的核心清单。
一个新估值命题随之诞生：如何为AI公司定价？传统增长框架看重收入、市场份额、利润率、壁垒。往后，安全治理能力，会越来越影响投资者对这些指标的判断。
一家模型能力稍弱但风控体系扎实的企业，是否能获得更稳定的资本与客户？一家技术领跑，但无法完整解释安全事件的企业，是否需要承担更高风险溢价？
目前尚没有定论。本次调查也还没有直接压低Anthropic估值，或确定推迟IPO。但趋势已经显现：AI安全，正在从研发成本，变成资本市场估值定价的重要因子。
过去AI企业要证明自己能创造多大价值；今后还要回答：这份价值背后，潜藏哪些风险，风险由谁承担。

六、真正的转折：谁有权检查AI公司的安全账本？FTC消息公开前两天，路透社10月13日的报道，揭示OpenAI、Anthropic与外部安全评估机构之间的分歧。争议焦点不是要不要第三方评估，而是评估机构的独立权限与报告公开边界。
企业担心评估泄露商业机密，希望保留对信息披露的控制权。两家公司都表态支持独立评估，但在保密材料、报告修改权、公开范围上，仍存在博弈。
这条新闻与FTC调查放在一起，就能看清AI治理的核心矛盾：社会需要更多信息判断安全水平；顶尖模型企业有强烈理由保护核心信息。
模型权重、训练方法、防护机制属于商业秘密；部分漏洞细节一旦公开，还会被攻击者利用。要求企业全盘公开所有内部资料，既不现实，本身也不安全。
反过来，如果企业可以决定外部评估者能看什么、写什么、对外发布什么，独立评估的公信力便会大打折扣。
这不是简单的保密vs公开之争，需要一套分层制度：
监管机构在法定权限内，调取必要原始材料；
独立评估机构拥有足够技术访问权，保持结论自主；
公众获取脱敏后的安全评估结论；
商业秘密、隐私信息、高危漏洞，获得合理保护。
这套体系不追求全民全量查阅所有数据，目标是终结企业独家解释自身安全表现的局面。
CID的深远意义，超出这两个个案。它证明：不必等待专门的AI安全新法落地，现有法律关于不公平或欺骗性商业行为、消费者保护的规则，就可以作用于AI产品。
当然FTC的权限存在边界，不是所有AI技术风险都能直接转化为消费者保护层面的违法事项。但信号清晰：企业持有商业秘密，不等于可以豁免依法开展的外部审查。
安全承诺要有证据，安全评估要有独立性，安全事故要有记录，责任最终要能够落实到人。
七、当AI公司成为公众公司，谁来决定它可以冒多大的险？把视线从2026年10月这两封信拉开，会看见一场更大的身份变迁。
AI最先只是实验室研究课题；继而成为线上商业服务；再嵌入企业真实业务流程。一旦AI企业登陆公开资本市场，它新增一重身份：公众可投资、监管可调查、股东可追责的公众法人。
多重身份并不互斥，但每增加一层身份，就要新增一套责任关系。
研究者可以坦诚，我们尚未完全预知模型能力边界；
产品负责人必须保证当前版本交付安全；
企业客户关心系统异常时如何紧急关停；
监管者核查是否触碰现行法律；
投资者评估风险对长期价值的冲击。
过去，这些讨论分散在不同圈层。如今它们在IPO节点交汇。
这就是本次事件值得记录之处：不是监管刚刚发现AI有风险，企业自己早已反复预警；也不是资本市场抛弃AI，万亿级上市计划本身证明资本依然狂热。
真正变化在于：当AI逐步成为基础设施，当AI公司吸纳公众资本，当AI智能体深度介入业务系统，社会不会永久接受一套规则——风险由企业自行发现、自行评估、自行决定是否可以承受。
我们不必追求AI绝对安全。汽车、航空、互联网，没有任何复杂技术能做到零事故，AI同样如此。
成熟制度的目标，不是杜绝所有故障，而是做到：风险可识别，事故可调查，责任可追究，教训可沉淀。这是所有成熟产业的底线。
对AI企业而言，这未必是坏事。能够接受外部审查、完整解释安全记录、证明风控体系可靠，本身会成为长期竞争优势。
值得警惕的，不是监管翻查安全旧账；而是手握强大技术能力、影响广泛公众利益的企业，独自保管全部安全账本。
2026年10月，FTC向OpenAI、Anthropic索要安全档案，纽约市审计长要求Anthropic上市前回应安全风险。两件事，不等于美国已经建成完备AI治理框架。但它标志着一套新的问责机制，开始落地。
过去AI企业需要证明：我们能造出多强大的智能。
往后它们还必须证明：我们有能力为这份强大承担责任。
这是前沿AI走向成熟，必须跨过的门槛。站在门槛前，最重要的提问已经改变：
不再是，AI还能变得多强？
而是，当AI越来越强大，谁有权翻阅它的安全账本？