做技术产品的人，最怕在手机上跑大模型。
面壁智能的CTO曾国洋说过一句很实在的话：
“端侧是硬限制——如果模型太大，跑不动就是跑不动，补贴钱没用；功耗太高会发热，你不可能补贴一个冰块。”
话很糙，但这就是硬件的死理。手机不是云端机房，内存就那么大，电池就那么点。模型稍微大一点，要么直接闪退，要么烫得能煎鸡蛋。
但10月13日，面壁智能发了新一代端侧多模态大模型MiniCPM-V 4.7。
他们直接把一个350亿参数（35B）的开源大模型，塞进了手机里。不仅能无损跑起来，还只占了约3GB内存。



在iPhone 17 Pro Max上，这模型跑出了每秒13个token以上的解码速度；放到iPad Pro上，每秒超过15个token；到了iPhone 18 Pro Max实测环境里，解码速度直接干到了每秒20个token以上。
01｜为什么以前的MoE在手机上会卡？
这次发布的MiniCPM-V 4.7有两个版本，一个是主打轻量化的1B版本，另一个就是重头戏35B-A3B。
35B-A3B是这个系列里第一个用上MoE（混合专家）架构的模型。
懂点AI的人都知道，MoE是个省算力的好东西。模型总参数虽然有350亿，但它像一个有无数科室的大医院，每次看病不需要所有医生一起上，按需激活就行。
这个模型每次推理，实际只激活30亿（3B）参数。



算力是省下来了，但到了手机上，另一个要命的问题出来了。
手机的内存太小，装不下所有“专家”。传统的做法是用到哪个专家，临时去加载哪个。
结果就是，算得挺快，全卡在路上等专家进场了。频繁加载模块，反映到用户手里就是一句话卡半天，体验极差。
为了解决这个卡顿，面壁智能这次掏出了一个叫**LES（前瞻专家调度）**的自研技术。这也是目前业内的独家开源方案。
原理说穿了并不玄乎：提前预判，边算边搬。



以前的模型是走一步看一步，算到跟前了才去后台叫人。
LES技术是提前预测接下来几步计算需要用到哪些专家模块。当前的计算任务还在执行的时候，后台已经把下一波要用的专家提前加载好了。
数据调度和模型计算同步往前走，把干等的时间省了出来。这也是为什么35B-A3B能成为业内首个在端侧无损、流畅运行的开源MoE模型。
02｜跑得快，脑子也没缩水
很多人对端侧模型的印象是“凑合能用”，觉得既然塞进了3GB内存，智商肯定打折。
看实测对比，35B-A3B在Instruct模式下，用更短的推理时间，拿下了比Qwen3.6 35B-A3B更高的综合得分。
同步推出的1B小版本，基础能力也比上一代4.6继续爬升，在综合得分和推理效率上都压过了Qwen3.5 0.8B。
除了模型本身，他们这次把周边的工具也给齐了。
发布当天，MiniCPM-V 4.7就直接支持iOS、安卓和鸿蒙三大系统，芯片方面从Apple、Intel、AMD、NVIDIA，到Arm、瑞芯微、后摩等平台全兼容了。
他们还顺手开源了一个叫**SRFT（Self-Replay Fine-Tuning）**的微调方案。做过二次开发的都知道，微调小模型最烦的就是“学了新的忘了旧的”，这个方案就是帮开发者用更低的成本去扩展能力、减少遗忘。
10月15日，面壁智能还联合清华大学THUNLP、OpenBMB与AI9Stars，把主打办公全流程交付和长任务稳定运行的AI Agent工作台PilotDeck 2.0也给开源了。
不用把数据传到云端，在本地就能跑通高性能多模态推理。省了云端算力钱，反应更快，还不用担心隐私泄露。
03｜不凑热闹的“非共识”打法
回头看面壁智能这几年的路子，其实挺有意思。
这家公司2022年8月成立，脱胎于清华大学自然语言处理实验室（THUNLP），首席科学家是清华长聘副教授刘知远，CEO是前知乎CTO李大海。
前两年国内“百模大战”打得最凶的时候，所有人都盯着云端超大模型，比谁的参数大、谁的算力多。2024年2月，面壁发布了世界首个端侧基座大模型MiniCPM 2.4B，一头扎进了端侧。
刘知远今年7月接受采访时很坦诚：
“成立之初，我们没能有幸成为所谓当时的‘大模型六小虎’，我们提端侧模型，那时大家也不太理解，经过过去两年，我们可以让大家看到，我们就是能够每100天让模型密度翻一倍，去迭代。我们要通过时间证明我们发展方向是对的。”
他们团队搞出了一个**“密度定律”（Densing Law）**：达到特定智能水平所需的参数量，每3.5个月就会下降一半。这个定律在2025年登上了《Nature》封面。



把模型做小、做精，商业化反而走得更顺。
今年7月，面壁的MiniCPM系列正式打进了三星旗舰手机供应链，2026年的三星新品直接采取谷歌和面壁的“双轨策略”。
在车机端，他们的SuperMate智舱方案今年要完成超30万台量产车交付，长安马自达、吉利银河、上汽大众、广汽都在用。甚至在法律行业，他们连民商事强制执行和不良资产处置的全流程业务都做进去了。
账面上的数字最能说明问题。
2026年上半年，面壁智能累计融资超过50亿元，估值突破200亿元。今年8月11日，他们已经在北京证监局完成了上市辅导备案，冲刺科创板“端侧AI第一股”。
以前大家总觉得，大模型非得在云端烧着几万张显卡才叫性感。
现在350亿参数的模型，占着3GB内存，在手机里每秒吐出20多个token的时候，还在云端卷参数的故事，可能真得换个讲法了。