11.4 AI 日报:给模型发一张指纹:不泄露权重,还能在本地验证真伪
今天的五条消息,没有一条在提升能力。
Anthropic 开源了一套系统,用密码学证明「这条输出确实出自这个模型」;MIT 团队提出用机制设计替代读心;苹果把 AI 伴侣划进 18+,谷歌让学校可以关 AI 但连搜索一起关;数据中心开始烧退役喷气发动机自发电;Anthropic 单季算力账单 100 亿美元,占营收 58%。
放在一起看,它们解决的是同一个问题:东西已经跑起来了,才发现没有身份证、没有规则、没有年龄门槛、没有电,也没有算得过账的毛利。
一、给模型发指纹,而不是让它自己报名字Anthropic 本周公开一套叫 FlashProve 的开源系统,做的事叫「可证明推理」(provable inference)——给一条模型输出附上一份密码学证明,让人可以核对它到底出自哪个模型。
机制的关键在第一步:实验室发布「指纹」,而指纹不暴露权重。权重是闭源厂商最值钱的资产,不公开它,系统才对商业模型同样可用。之后用户拿输出比对指纹做校验,设计上足够轻量,可以在本地设备完成,不必把内容传回厂商。
它要防的对象写得很直白:能挡住冒名者,哪怕冒名者就是训练并运营这个模型的实验室本身。原文点了两种场景——偷偷换一个更便宜的模型来省成本,或者换一个更贵的模型来抬高跑分。
有三件事要分开,否则会读成产品发布:
代码以开源许可公开,技术规范也一并放出;作者明确说这是中间进展,不是完成的研究议程。目前没有在 Anthropic 或任何其他实验室部署的计划。它证明的是「这段输出由哪个模型产生」,不证明输出正确。前者是身份问题,后者是质量问题。工程上的意义值得单独记一笔:过去判断「我在用哪个模型」,靠宣传页、API 名称和榜单;现在第一次有了数学层面的核对手段。对做企业系统的人,这意味着模型身份可以变成一个可校验的字段,而不是采购合同里的一句承诺。
二、别读心,改激励:反向博弈论进场MIT Technology Review 今日长文介绍「反向博弈论」,也叫机制设计,作为 AI 对齐的替代路线。
过去两年的对齐主要走两条路:往模型脑子里看,或者训练它遵守一套价值观。文章的判断是两条都不太行——已有研究记录到模型在测试里故意考差、隐藏意图、误导评估者。
反向博弈论反过来:承认我们可能永远看不懂前沿模型的内部,那就别看了,改规则,让守规矩成为对它最划算的选择。
现实类比很好懂:分蛋糕时一个人切、另一个人先选,切的人自然会把两块切得一样大。
提出者
机制
为什么能防
MIT 的 Stephen Morris 与 Yale、Columbia 同事
不只按测试成绩给奖励,还按「自己的答案能否预测第二个模型的答案」给奖励
故意装傻会让自己预测不准,装傻变成亏本
同上
让模型互相对打;或把两个偏向相反的模型配对,按输出接近程度给奖励
竞争与对冲把答案往最优点推
普林斯顿的 Elad Hazan
模型轮流当「解题者」与「审计员」,作弊被抓住的解题者受罚,没抓住作弊的审计员同样受罚;分歧送「审判」
把执法成本内化进训练目标
Hazan 的参照系是人类社会:既然要「对齐超级智能」,不如先问「我们怎么对齐人类的」——社会规范、司法系统、市场激励。他引用 Gary Becker 的「理性犯罪人」:人不是天生要犯罪,是收益大于惩罚时才犯。合谋风险他也承认,解法是把审计员的报酬给到「被抓也不划算」,再用类似「神秘顾客」的办法去审审计员。
软肋必须写清楚:
它假设 agent 会像理性经济人一样对激励反应。 Morris 自己说「AI 当然不理性,它们只是算法在跑」,但补了一句:把对象当理性人处理,只要能帮助预测和控制,就仍然有用。合谋、钻空子、机制迁移失效都没验证。 Flatiron 研究院的 Helen Qu 提醒,这些理论能否落到真实前沿模型上、能否迁移到别的任务都是问号;机制设计只是纵深防御里的一层。最后一层机制是市场。 Hazan 的追问最扎人:一个更对齐的模型如果更慢、更贵,现有规则有没有激励任何一家实验室把它放出来?作为对照,几天前的一件事恰好说明「只改提示词」的局限:Anthropic 在 Opus 5.5 的提示词里加了两句话,要求不要复刻已有游戏。结果是想防的防不住(换个模型、或把任务拆成看不出上下文的纯技术需求,照样做),不想伤的伤了一片(Claude Code 的 issue 区被原创开发者刷爆)。Ars Technica 今日的判断坐实了这一点:模仿的洪流比任何一家厂商能挡的都大。
三、门槛挪到商店,电源自己发苹果发公告调整 App Store 政策:凡提供约会或恋爱关系功能的应用,一律要求 18+ 评级;11 月 16 日起开发者必须补上新的内容描述符。连带影响最大的是 AI 伴侣类应用——Character.AI、Replika 这类产品用户画像偏年轻,按 2025 年夏天的统计,主流 AI 伴侣应用在两大商店的全球累计下载量已达 2.2 亿次。
这条规则的实质:不要求模型拒答,也不要求模型识别年龄,而是在分发环节设闸。
谷歌宣布明年起对 K-12 学生默认关闭 AI 工具,管理员必须显式开启。涉及 Gemini、NotebookLM、Gemini in Classroom 和 Google Search。谷歌教育副总裁 Chris Phillips 的说法是「搜索和 AI 已经深度整合」,所以学校若整体限制 AI,学生「就无法访问搜索」。
这条的工程含义比政策含义更重要:当 AI 被编织进检索路径本身,「关掉 AI」就不再是一个独立开关,而是一次对基础设施的整体撤除。
电的问题更硬。 据《纽约时报》报道,一批数据中心正在自建发电,用的是从退役飞机上拆下来、改装成烧天然气的喷气发动机。
方案
上线时间
北弗吉尼亚接入 100 兆瓦电网
约 7 年
改装喷气发动机机组
约 24 个月
xAI 已在密西西比装了 8 台 ProEnergy 改装的机组,给孟菲斯的 Colossus 2 供电;Crusoe 今年 4 月订了 13 台,用于得州阿比林。代价是效率更低、污染更高,发同样多的电需要更多台。延迟已经在造成损失:上个月微软退出了 Nscale 在英国 Loughton 的项目,因为当地电力公司表示要到 2030 年代中期才供得上。
这件事的启示不在能源,在架构:当电力是一个 7 年级别的排队问题,选址、容量规划、训练与推理排班,都得按「电可能随时不够」来设计。
四、算力吃掉 58% 营收,企业开始只签短约Anthropic 周一的申报文件把披露期延到 9 月 30 日:
指标
Q3
Q2
变化
单季营收
170 亿美元
115 亿美元
环比约 +48%
算力占营收比
58%
48%
恶化 10 个百分点
单季算力账单
100 亿美元
—
含 50 亿美元短期承诺
每 1 美元算力换回收入
1.72 倍
峰值略超 2 倍
回落
文件自己解释了为什么贵:50 亿美元算力走的是短期承诺,原文写明「目前显著贵于多年期承诺下采购的可比算力」。翻译一下——需求涨得太快,只能临时抢,抢来的都溢价。已公开的还包括每月向 SpaceX 支付 12.5 亿美元,以及与 Nscale、Akamai、Volta 的多笔大单。
推理侧估值在往上顶。Fal 完成 13 亿美元 F 轮,Bessemer 领投,英伟达、Sound Ventures、T. Rowe Price 参与,估值 160 亿美元,是 4 月 80 亿美元的两倍;E、F 两轮合计融资 16.5 亿美元,年化收入已超 8 亿美元。但毛利依然薄——买或租算力太贵。
企业侧出现了另一个信号。Palantir 三季度营收 23.1 亿美元、同比 +96%,首次单季破 20 亿;美国商业收入 9.84 亿美元(同比 +148%)首次超过美国政府收入 9.53 亿美元。但本季美国企业合同总额 14.6 亿美元,低于上季创纪录的 21.3 亿美元。CEO Alex Karp 的描述是「合同期更短,之后有大幅扩张的能力」——翻成风险语言:企业用短约试用 AI 软件,跳过了通常的采购流程,也同样更愿意随时取消。
五、国内:仓库想自己上班,记忆改成按事件存极智嘉发布《24/7 自主智能仓计划》,分三步:打通全流程、强化智能闭环、规模化落地。技术底座是两层——Gravity 统一具身智能框架负责理解任务与规划动作,Gravity 4D 具身世界模型负责几何、受力与接触,支撑跨材质泛化抓取、动态抗干扰、长程任务拆解,以及用自然语言直接纠偏。
系统层面是造一个「仓库大脑」:底层由 RMS 调度、WES 执行、IOP 分析三套系统支撑,IOP 发现问题、WES 编排策略、RMS 调度执行;之上是三类 Agent——监控 Agent 找异常、数据分析 Agent 追原因提方案、部署配置 Agent 调参数。调度调整几分钟内生效,整体策略按天优化。
落地数字:人形机器人 Gino 1 可拣货搬箱并与移动机器人协同;无人拣选工作站在施耐德电气上海物流中心试点,拣选效率达人工 2 倍,准确率超 99.99%。公司 AMR 市占率连续 7 年第一,覆盖 40 多个国家、超 1000 家客户、累计部署 8.1 万台机器人。
openJiuwen AgentMemory 0.2.0 上线 OmniMem-Lens,解决的是长视频记忆的老毛病:业界按固定时间窗切视频,记忆在源头就被切碎,证据碎、噪音多。它的判断是 Agent 在「按秒」记视频,而人是「按事件」理解视频——视觉流看画面切换,听觉流靠 ASR 判断「画面没动但话题换了」,双流交叉落刀。记忆再分三层:L0 原始帧、L1 大纲、L2 索引,前两层文本化与向量化,可直接接主流向量库。
效果(配 Qwen3-VL-8B 对比直答):Video-MME-L 提升 8%,LVbench 提升 6.4%,EgoLife-QA 提升 45.7%。LVbench 时延从 34.5 秒降到 1.72 秒,快 20 倍。关键是记忆离线建、回答在线查。
六、三条值得记住的技术细节先想清楚再动手,是能拆开的。 极智嘉把「理解任务、规划动作」放进 Gravity 框架,把「几何、受力、接触」放进 4D 世界模型,两件事分开做再合起来,才撑得住跨材质抓取和动态抗干扰。
降时延的关键不是更快的模型,而是更早做完重活。 OmniMem-Lens 把整理提前到离线,在线只做语义匹配,需要视觉核验时才取原始帧。同一套思路可以直接搬到任何长文档、长日志场景。
开源不等于可部署。 FlashProve 放出代码和规范,同时承认没有部署计划。分辨「研究进展」和「产品发布」,看有没有部署时间表就够了。
七、机制设计的软肋在哪它假设 agent 会像理性经济人一样对激励反应,而模型未必理性。Helen Qu 的定位更可靠:机制设计只是纵深防御的一层,和可解释性、监管、训练并列,不是替代。真正要小心的是一种错觉——以为设计了激励,就不必再理解系统。
八、大龄码农视角「证明」这件事比听起来重要。过去判断一个模型靠宣传页和榜单,现在第一次有了数学层面的核对手段。对做企业系统的人,这意味着模型身份会变成一条可校验的字段,而不是采购合同里的一句口头承诺。
「机制」这件事更扎心,因为它证伪了一类做法。给提示词加两句禁令,换个模型照样绕过去,正经开发者反被误伤。机制设计的价值在于承认:你看不见它内部,就别指望它自觉。
所以这周我做三件事:
今晚:给模型清单加一列「输出能否验真」;本周:把 agent 的奖惩改成看结果,不再只看提示词;本月:按「电可能不够」的假设,重算一次容量与延迟预算。今天这五条,没有一条在提升能力,全在补已经跑起来之后才想起的手续。规模越大,要补的手续越多,而补手续的钱,最后都要从毛利里出。
话题标签#AI日报 #人工智能 #大模型 #Agent #智能体 #AI安全 #具身智能 #开源 #Anthropic #MIT