🔹 主题：模型蒸馏大模型当老师，小模型当学生，老师传知识，学生练内功。

💡 一句话：大教小，省算力能力看齐老师，体积小一个量级，推理成本最高直降 10 倍。

🔧 三种主流玩法① 离线蒸馏 先训好老师，再教学生② 在线蒸馏 老师学生一起练③ 自蒸馏 自己教自己

🏭 案例：千元机也能跑大模型手机助手端侧秒回；客服机器人省 9 成算力；体验接近大模型。

🤝 和 AI 的关系：AI 落地的「降本捷径」没蒸馏，智能只能留在云端；有蒸馏，AI 跑进千元设备遍地开花。

⚠️ 三个坑× 只学答案不学思路，能力打折× 学生太弱学不动× 蒸馏 ≠ 无限压缩，有天花板

🎯 口诀：老师强，学生灵好老师 + 好数据 = 好学生。

✅ 4 步上线① 选老师：已有大模型 ② 蒸馏：生成软标签 ③ 学生学：模仿输出 ④ 部署：小模型上线，省 9 成

🔮 下期预告：S2D14 · 推理引擎让 GPU 跑满的关键软件，MFU 30% → 70%。

国产算力 算力科普 AI模型层 模型蒸馏AI工具 大理