关键字 · 省钱
编程 AI 太烧 token?开源插件 TokenEconomizer 从你过去的会话里学习,同一个项目越用越省
微软开源插件 TokenEconomizer 从你过去的会话里学习,减少编程 AI 重复的 token 浪费。它的三招、作者测试的数字和安装步骤。
用 Claude Code、Codex 这类编程 AI 写代码,账单涨得很快。原因之一是:每一轮对话都要重新为 agent 的指令、每个加载的工具定义、以及到目前为止的对话付费;而你在同一个项目里反复用同一个 agent,很多花费其实是重复的——同样的项目信息重新查一遍,同样没用过的工具每次照发,同样的死循环一再出现。
视频里介绍的 TokenEconomizer 就是冲着这些重复浪费来的。它是一个插件,不改模型、不改权重、也不改 agent 本身的代码,而是从 agent 在这个项目里已经跑过的会话中学习,用这些经验减少之后会话的浪费。它的作者来自 UC Berkeley、微软研究院和微软安全团队,仓库放在 GitHub 的 microsoft 组织下,采用 Apache 2.0 许可,配有一篇 arXiv 论文。
先说清楚:这是一个研究版本(0.1.0),和论文一起发布;下面引用的数字都是作者自己的测试结果。我们和微软没有任何合作,这篇指南也不代表微软的观点。
01它的三招
- 第一招:工具精简(Tool pruning),默认开启。每个加载的工具,定义都会随每次请求一起发送。一个工具如果在至少 2 个会话、共 10 次提问里都没被用过,或者连续 5 个会话都没用过,就会通过 agent 自己的设置在之后的会话里被拿掉。一条命令就能全部还原;
- 第二招:死循环干预(loop guard),默认开启。当一轮工作一直撞上同样的失败,一个评审模型会判断它是不是卡住了;如果有至少 0.7 的把握,就给 agent 一条简短的提示,让它换个方法,每轮最多一次。如果之后还卡着,它会告诉你怎么停下来,但它自己从不停掉这一轮;
- 第三招:微技能(Micro-skills),默认关闭。它会记住 agent 老是重新发现的项目事实,比如这里要用 python -m pytest 跑测试、某个命令需要先跑构建、生成的文件放在哪里。一个事实要被三个会话确认后,才会在每次会话开始时告诉 agent;之后如果有会话和它矛盾,就会被删掉。
插件每做一个动作都会用一行字告诉你;如果插件本身出了任何问题,你的会话会照常继续,就像没装一样。它学到的东西只存在你自己电脑上的 ~/.tokeneconomizer 文件夹里。
02作者测出来的效果
论文在 SWE-Bench 上用了 6 个仓库(Django、Matplotlib、scikit-learn、Sphinx、SymPy、xarray)的 277 个任务,跑了 5 种 agent 和模型的组合。每个仓库的任务按顺序跑,一开始什么都没学过;成本包含插件自己的每一次模型调用,并按缓存价格计算。
- 平均成本降低 18.4% 到 30.9%,在全部 30 个「仓库 × 组合」里都比默认便宜,单个仓库和组合的降幅在 5% 到 40% 之间;
- 通过率(Pass@1)5 个组合里有 4 个上升:例如 Claude Code 配 Sonnet 5 成本降 23.6%、通过率 +1.3;
- 有一个组合下降:Claude Code 配 Opus 4.8 成本降 30.9%,但通过率从 74.0 降到 73.0,少了 1 个点;
- 在 Web-Bench 上省了约 16% 到 21%;在两个每个任务都是新仓库的安全审计基准上省了约 6% 到 20%。在 Web-Bench 和 CredData 上,Copilot CLI 的质量略低于默认。
所以比较准确的说法是:在作者的测试里,最多能省三成左右,而不是「装上就帮你省 30%」。
03你需要准备什么
- 一个支持的 agent,用它支持的任何方式登录:Claude Code 2.1.300 到 2.1.310、Codex 0.153.1 到 0.164.0、Copilot CLI 1.0.83 到 1.0.102、Pi 1.2.0 到 1.3.0。opencode、Cursor Agent 和 Hermes Agent 是实验性支持。更旧的版本不支持,更新的版本还没测过;
- Python 3.10 或以上,要在 PATH 里。插件只用 Python 标准库;
- 不需要额外的 API key:插件自己的模型调用(提出事实的模型、评审模型和它写的提示)走你自己 agent 的同一个账号或套餐,费用算在你的账单里,并会在报告里列出来;
- 插件免费,Apache 2.0 开源。
04在 Claude Code 上安装(按 README 的快速开始)
下面以 Claude Code 为例,其他 agent 的命令在 README 里,名字几乎一样,把 claude 换成 codex 或 copilot 即可(Codex 的安装命令是 plugin add)。
- 第 1 步:克隆仓库:在你想长期保存的文件夹里运行 git clone https://github.com/microsoft/TokenEconomizer.git。Claude Code、Codex 和 Copilot CLI 都是直接从这个克隆运行插件的,所以之后不要删掉或挪走它。
- 第 2 步:添加插件市场并安装:运行 claude plugin marketplace add "$PWD/TokenEconomizer",再运行 claude plugin install tokeneconomizer@tokeneconomizer。README 提醒:市场路径要用绝对路径,像上面这样写。
- 第 3 步:在你的项目里启动并检查:在你的某个项目里启动 claude,信任这个文件夹(选 Yes, I trust this folder),运行 /tokeneconomizer:status,被问到时允许它运行脚本。装好的话会打印一段简短的状态。
- 第 4 步:刷新工具目录:每台电脑一次,以及每次 Claude Code 更新以后,运行 /tokeneconomizer:toolprune refresh-catalog。它会记录会话加载的每个工具(不调用模型),这样工具精简才能考虑到所有工具。
- 第 5 步:照常干活,需要时再调设置:之后照常用就行,插件不需要你做什么。想打开第三招,运行 /tokeneconomizer:config set microskills=on,加上 --global 就对所有仓库生效。还可以用 microskills=envfacts 只从重复失败里学习事实,不调用模型。更新时在克隆文件夹里 git pull 即可。
05它不会做什么、要注意什么
- 不改模型和 agent,也不会自己停掉一轮工作,只会提示你、告诉你怎么停;论文项目页里的死循环干预会在持续卡住时停止运行,这和实际发布的插件不同;
- 插件的模型调用不会发送你的文件内容和提问;
- 工具精简在 Pi、Cursor Agent、opencode 和 Hermes Agent 上不可用;Cursor 上会话成本显示为不可用,而且只支持 macOS 和 Linux;
- 工具精简只会加它自己的条目,不会动你自己写的禁用规则,生成的设置文件会被排除在 git 之外;
- README 首页动图中间那段六个会话的柱状图是示意,不是测量;
- 这是研究版本,论文是 arXiv 上的 v1,数字都是作者自己的基准测试。
06常见问题
问:要钱吗?
答:插件免费开源。它偶尔调用模型(主要是在一轮看起来卡住时),这部分费用走你自己 agent 的账号,会在 status 里单独列出来。
问:会不会让 AI 变笨?
答:作者的测试里,5 个组合有 4 个通过率上升,但 Opus 4.8 那个组合降了 1 个点。事实只从重复证据里形成,工具只在长期没用后才拿掉,而且都可以撤回。
问:怎么临时关掉?
答:启动时加环境变量,例如 TE_DISABLE=1 claude 关掉整个插件,TE_LOOPGUARD=off codex 只关一招。
问:拿掉的工具怎么找回来?
答:运行 toolprune restore,它只删除插件自己加的条目,找回来的工具之后不会再被拿掉。
07相关链接
资料来源
下一个好用的工具是什么?
每条视频都有一篇完整详情。关注 @serrini666,第一时间看到新分享。