大模型越来越聪明,包裹在它外面的“套壳”框架是不是要死了?
曾在编程工具 Cursor 任职、后随收购进入 SpaceX 的工程师 Jediah Katz,最近在一次演讲里直接回应了这个行业焦虑。他在 Cursor 专门负责 Agent Harness——也就是包裹在大模型外围,负责引导模型、保存进度、连接外部工具的整套工程框架。
过去做编程智能体,工程师要在外围搭一套极其厚重的脚手架。早期前沿模型连可靠地修改代码文件都做不到,必须配一个小模型专门打补丁;还要靠大量提示词和护栏,手把手教模型怎么探索代码库、跑测试、自我检查。
现在情况反过来了。加州大学伯克利分校的一项研究把七个前沿模型放进 Pi、Codex 和 Claude Code 等不同框架里测试,发现在 SWE-bench Lite 编程基准上,换框架对得分几乎没有显著影响。Cursor 自己也删掉了大量弥补模型缺陷的干预代码。
为什么辛苦写的工程代码最后全删了?因为框架本身推动了一个数据飞轮:外围脚手架先让原本做不了的复杂任务变得可用,吸引大量用户高频使用;产生的交互数据流回模型实验室,下一代模型直接把探索代码库、跑测试变成了原生本能。
把代码删掉,恰恰说明上一轮工程成功了。
编程的旧脚手架在消失,通用办公和系统底层的硬需求却在暴涨。Katz 举了 Grokbot 的例子,它不再是一问一答的聊天,而是让长期在线的“协调员”机器人对接用户,再把任务拆解派发给底下的执行智能体团队。一旦走出写代码的舒适区,去做PPT、订机票,模型又变得不靠谱了。什么时候该直接发邮件、什么时候必须先请示人类,怎么汇报进度又不刷屏烦人,都逼着工程师重新加上新的护栏。
而且有三件事永远无法靠升级模型权重来解决:持续运行的基础设施、安全权限和成本控制。当智能体的任务从几分钟拉长到几小时甚至几天,合上盖子就休眠的笔记本根本撑不住,状态保存和计算必须搬上云端;生产环境更不可能直接给模型一个装满所有密钥的终端,权限边界、缓存命中率和调用成本,全得靠外围框架死死掐住。
这也要求智能体工程换一种写法。Grokbot 团队把弥补模型缺陷的临时补丁集中追踪,每次触发都记下日志,还专门写了个机器人盯着数据——一旦发现某个补丁不再被触发,说明模型已经学会了,机器人就会自动提交代码请求把它删掉。
Katz 预测,六个月内 90% 的智能体工作都将脱离个人笔记本在云端运行。靠几句提示词修补模型智商的旧套壳确实在消亡,但谁能管好云端状态、权限边界和多智能体协作,谁才握着下一代 AI 软件的入场券。