代币浪费和代币使用:人工智能编码的隐藏经济学
令牌使用量是消耗的模型上下文的总量。令牌浪费是指不会实质性改善最终工件的使用份额。
用法模型读取和写入的所有内容。
浪费重复、不相关或低价值的使用。
恢复每个运输工件的浪费更少。
什么算作象征性浪费?
令牌浪费包括重复的摘要、不必要的上下文加载、重复的文件读取、失败的命令循环、过于广泛的研究、冗长的状态叙述以及不断延续的陈旧指令。用户可能永远不会看到全部内容,但它仍然填满了会话。
为什么代币浪费与成本不同
成本是账单或计划的限额。浪费是工作内部的低效率。如果任务很小,团队的成本可能会很低,但浪费却很大。如果任务确实很复杂,那么团队的成本可能会很高,但浪费却很少。 Token Robin Hood 关注效率比:每单位 AI 消耗的有用工作。
如何减少代币浪费
- 在代理开始探索之前定义工件。
- 将研究和执行分为不同的阶段。
- 使用简洁的操作说明。
- 当旧的上下文不再改变决策时,将其修剪掉。
- 跟踪重试和失败的命令作为成本信号。
为什么这是一个 SEO 类别
构建者已经在寻找使用限制、上下文窗口、提示成本、Claude Code 配额、Codex 使用情况和 AI 编码效率低下等问题。 “令牌浪费”一词为该搜索行为提供了一个明确的类别名称。