最近 OpenAI 公布了一份内部 Agent 安全事故报告，意外曝光了 GPT-6.1 Sol 和 GPT-6 Astra 的原始思维链（CoT）。

看完有点震惊，因为这些推理过程已经不像正常英语了。
比如 GPT-6.1 Sol 的一段思考：
Needsautoalarmseverity4? WecoulddetectL2priorityP0 notsendmessages
单词几乎全部粘在一起，没有空格，语法也不完整，还夹杂着代码变量，看起来跟乱码差不多。
但仔细看，模型其实在正常推理，只是省略了大量人类阅读所需要的表达。

📌 Karpathy：这是 RL 训练到位的表现
Karpathy 说，这种现象可能是强化学习（RL）充分优化后的结果。
我们人类思考时，通常需要借助完整的语言来组织逻辑。
但模型不一定需要。
只要自己能理解，就没必要把每一步都写成通顺的英语。
换句话说，模型可能逐渐形成了一套更适合自身推理的表达方式，而不是专门写给人类看的思维链。

过去不少模型训练采用蒸馏路线：用更强的模型生成高质量 CoT，再让小模型学习。
但如果最强模型的思维链越来越像这种高度压缩的内部语言，事情可能就没那么简单了。
老师自己能理解的推理过程，学生未必能直接学会。
特别是对于依赖闭源强模型蒸馏的追赶者来说，单纯模仿老师的思维链，可能越来越难获得同样的推理能力。

这也让我想到：大家利用 Claude 数据训练模型的多，但直接蒸馏 GPT 原始思维链的案例似乎少一些。
一个可能的原因，就是 GPT 的推理过程经过大量 RL 优化后，已经越来越不适合直接拿来当训练数据了。
相比之下，Claude 输出的推理过程可能更容易被其他模型理解和学习。

#大模型 #GPT #OpenAI