← Context From First Principles

删掉不再重要的东西

把剪枝当现行上下文的删除(无语义替代),删除安全当反事实、有证据等级的断言,删得安全和何时删分开。

九章观察、分类、测量、排序、定价、绕着上下文做结构,什么都没删。克制到这里结束,结束得 nervous 一点好。

这里是个说明场景,不是结果。团队给编程智能体的历史发自动清理 pass:exact 重复工具输出删,四轮前的失败调用删,模型标 done 的删。token 数降三分之一。同一继续 workflow 后面,migration guardrail 开始静默失败。删掉的材料里有会话中途确立的约束的唯一可及记录,别处没写。没人把它摘要掉。分不清冗余拷贝和唯一原件的规则直接删了。

这是本书第一个 destructive 操作。保留不免费,留存材料占容量、可能加干扰,所以论证不是删除总更糟。destructive 操作要和犯错代价成比例的证据。这里的每个决定须回答两问题:

为什么删掉安全?

为什么现在删是对的时机?

剪枝是什么

剪枝从呈现给模型的上下文删掉条目或条目的一部分,不用生成的替代物替换它的语义内容。

边界测试是操作的:操作跑完,它建或选了意在保留删掉内容的含义的表示吗?建了就是压缩或变换,归[第 11 章](/zh-cn/books/context/11-chapter/)。没建就是剪枝。删重复行能是剪枝。留着 pre-existing 的诊断字段、删掉无关字段也能是剪枝。特意选句子替代删掉材料的含义就是提取,哪怕没生成新散文。

剪枝是现行上下文成员的决定:

来源或 durable state → 候选信息 → 现行上下文
                                剪枝:条目 ∈ 上下文 → 条目 ∉ 上下文

定义上它不动已存在的来源或 durable 记录。但独立记录 absence 能让删掉的观察实践 irrecoverable;剪枝不创建持久化、不自动保留来源。下请求删文件读取的 8,000 token 不删文件。[第 1 章](/zh-cn/books/context/01-chapter/)的分开适用:

不在当前上下文 ≠ 不存在

剪枝不是外化,外化把信息搬进系统维护的存储([第 13 章](/zh-cn/books/context/13-chapter/))。不是记忆删除,那管跨会话的 durable 记录,归记忆书。也不是遗忘。这里定义的算子在已存在处不动 durable 记录和来源。第 10 章不保证一切都有 durable 存储。

安全是反事实的

条目看着重复、旧、完成、相关性低、最近没被引用,不等于删掉安全。第 5 章对臃肿用的同样 discipline 这里适用。三种安全断言不同:

  • **结构安全。**声明的结构假设下,删除保留要求的表示或信息义务。比如 fixture 确立精确冗余拷贝还在,重复本身不带必需含义。
  • **行为安全。**受控评估说明要求的行为在删除后活下来,陈述的接受标准下约 $B(C) \approx B(C \setminus x)$,评估随机处不要求字面相等。
  • **预测安全。**政策预测条目以后用不到。

它们不等价,没有全局安全的删除。安全删除是任务义务相对的:在声明的 fixture 义务与下游任务下安全。一任务无关的日志另一任务 essential。下面的问题从最容易的检查走向评估最终要的断言。它们不是逻辑蕴含链:表示相同不证明贡献相同,一任务下贡献相同没确立另一任务安全:

表示相同?  →  信息贡献相同?  →  这个任务删掉安全?

看着不必要 ≠ 删掉安全

剪枝的证据梯子

不是每次删除值得同样的信任,政策须知道每决定站哪级。编号分决策的可能根据,不是对证据强度的单调排名:验证过的来源 identity 和验证过的依赖闭包回答不同问题,正确的 identity 断言不必让删除安全。它不是信息的本体。

级 根据 确立 没确立 主要失败
0 表示同一 同样的渲染 payload 出现多次 行为等价 表示同一误当信息或行为等价
1 来源同一 观察来自一 immutable 或版本化来源 state 每渲染拷贝同样的上下文 effect 可变来源当相同重读
2 检查过的包容 新观察在可查 ground truth 下 demonstrably 覆盖旧观察 检查假设外的无关 包容 assumed 没检查
3 验证过的闭包 依赖当前 closed,要求的结果保留 永不 reopen 休眠依赖后面醒来
4 预测 heuristic 或模型估计以后用不到 安全 自信、不可逆的错

连精确重复确立的也只是重复表示。删一拷贝改变总长度、后面材料的定位、相邻([第 6 章](/zh-cn/books/context/06-chapter/)),字节相等不保证行为等价。fixture 声明重复语义无关处,删除按构造安全,别处是待测的假设。句法语义区分是更长区分的前半:

句法重复 ≠ 语义冗余 ≠ 行为安全删除

这里发展的保守政策默认对第 4 级 abstain,下面的实验是预测剪枝挣到更广 standing 的东西。系统说得出每次删除的级。说不出的系统有删除没有置信模型。

同样工具同样参数不是同样观察。10:00 和 10:30 读 config.json 能不同,git status、查询、请求、测试跑也一样。去重器须区分重复执行和相同捕获输出,声称同样来源 state 处检查来源版本或 immutable identity。内容 hash 确立捕获字节同一,确立不了删一处的等价 effect;时间戳记录观察何时做的,证明不了它们一致。工具 side effect 与任务义务也重要。这些检查没有,规则须说更弱的保证。

失败 work 的 residue

失败的 15,000 token 调用看着好删。候选 reduction 留可用的诊断 residue——工具 identity、错误类型、报错信息、任务要的结构化字段——提议删已对现行义务检查过的 bulk。那些字段可能不够:参数、输入摘录、stack trace、事件顺序能 decisive。但输入解释失败,purge 规则须点名保留什么。还有边界。保留现存结构化 metadata 还是剪枝。生成调用为什么失败的解释就是变换,选 payload 摘录保留诊断含义可能已经是[第 11 章](/zh-cn/books/context/11-chapter/)的地盘。residue 不许把压缩 smuggle 进剪枝。

剪枝重复尝试与无关 state

Laban 等(2025)的多轮研究说明模型 anchor 在自己早答案,要求 consolidation 有帮助但没完全恢复单轮性能。那个结果 motivate 剪枝假设,不证明删旧尝试帮智能体。它提示区分:含模型自己拒绝的假设与过早解尝试的上下文,和只含累积要求与 decisive 证据的上下文不是一回事。剪枝须区分:

  • 模型自己早先的尝试(可能错,anchor 后面的推理)
  • 用户给的要求与约束(可能修订或撤回)
  • decisive 环境观察(带证据)

模型生成的早先尝试在当前贡献 demonstrably 冗余、拒绝、superseded 或别处可恢复时成剪枝候选。来源 alone 确立不了删除安全;有的含成功的部分 work、有价值的阴性证据、没解决的备选项。它要求系统认得出哪些条目模型生成、哪些环境或用户给的,哪些生成的条目被证据 contradict。[第 15 章](/zh-cn/books/context/15-chapter/)的认识继承与[第 11 章](/zh-cn/books/context/11-chapter/)的 state 保留是让它可能的机器。没有它,剪枝 risk 删掉 decisive 失败实验的唯一记录,留下导出它的假设。

完成的工作

编程轨迹累积完成工作的搜索、读取、日志、假设。三件事分开:

任务完成  ≠  依赖完成  ≠  未来无关

后面的回归可能要为什么这样选、早先什么挂了、通过的测试用的精确标识。轨迹和它确立的东西分开放:

raw 操作轨迹  ≠  轨迹确立的 durable 知识

完成轨迹只在要求的后果别处保留或独立可恢复的程度有剪枝资格。要求的贡献别处活下来,轨迹可离开现行上下文。本章不为那个知识建表示。它记录依赖:必需后果记录或别处可恢复前执行的剪枝 premature。记录的后果也可能漏掉未来任务要的细节,闭包须对陈述的义务检查。

年龄与过时

最旧先删是最站不住的规则之一。旧条目有项目规则、决定、没解决的义务,新条目有重复日志。这里发展的剪枝政策里,年龄 alone 确立不了安全删除:

旧 ≠ 可丢弃

*过时(stale)*一词要小心。本章本地用轨迹 superseded:观察对现行工作线没贡献了,因为检查过的新观察或完成的 transition 替换了它。那和世界过时(底层事实变了)是不同的意思。第 20 章拥有事实新鲜度,这里不重定义它,不从新近推断 truth。

文献说明了什么

相关证据是编程智能体轨迹的 workshop、同行评审、预印本工作,各在自己的 setting。下面没有一数是 general 结果,Self-GC、SWE-Pruner 结果是预印本。

来源 证据类型 报告的结果 本章采用 拒绝推断
Lindenbauer 等 Workshop 论文(NeurIPS 2025 DL4C) SWE-bench Verified 上 SWE-agent 加五模型配置,老观察换 placeholder 相对 raw 智能体成本减半,解题率打平、有时略超 LLM 摘要;混合省更多 删除值得在有损变换前测 掩码总打平摘要,或测试脚手架之外任何
Xiao 等(AgentDiet,FSE 2026) 同行评审 两模型两 benchmark,输入 token 降 39.9–59.7%,终成本降 21.1–35.9%,智能体性能保持;reduction 用单独反思模型,有自己的成本 token reduction 和成本 reduction 是不同的量,机制自己的开销须计数 同样 reduction 别的智能体任务也成立
SWE-Pruner Preprint 0.6B 参数模型按显式任务目标选相关代码行,智能体任务报告 token reduction 23–54%,成功保持或提高 过滤进入的观察和剪枝历史是不同的决定,本章这样读它 历史剪枝的任何结果
Self-GC Preprint side-channel planner 对索引上下文对象提 fold、mask、prune 动作,harness 强制可恢复 sidecar、安全提交边界、缓存感知提交;作者报告剪枝不影响的未来续写 share 提议和提交分开是自然结构 别的 setting 的影响数

作为提议的序列,不是经验 law:先删 demonstrably 不必要的,再变换可能还重要的。

保留边界

第 7 章结论保留结果是推导的政策 states 不是内在类,保留义务和准入必需分开:

保留义务 ≠ 准入必需

准入的 PIN 管束条目降不到保真下限下,剪枝不得违反适用的下限。准入不准入是独立的任务相对问题。这里不向重要性分数要任何东西:

重要性 ≠ 删除安全

删除安全来自冗余、保留义务、可恢复性、依赖、证据。保护从已声明的属性推导,不从清单。每个候选问当前任务要它吗,它有没有唯一 irrecoverable 的贡献,是不是现行没解决的依赖,保真义务适用吗,声明的政策禁删吗。权威性是什么、过时什么意思归第 19、20 章,准入选择归第 22、23 章。第 10 章消费它们确立的东西。

占位符

删除留选择:模型什么都不给,或给机械 marker。占位符能带条目标识类型、删除理由、来源版本指针、时间戳、声明的恢复能力 flag。那些字段须来自记录的 metadata 或检查过的来源,不能从删掉的 payload 生成猜。它不能带意在保留条目含义的生成散文,带了就是[第 11 章](/zh-cn/books/context/11-chapter/)的。三区分跟出来:

占位符       ≠  语义替代
可审计       ≠  可逆
恢复指针     ≠  恢复成功

日志把不可逆删除记完美也可能,恢复如第 7 章说的须测试。“删除"还覆盖几个维度不同的操作,不成单调尺度:

操作 现行上下文在吗? durable 记录留吗? 来源留吗? 恢复路?
这次调用省略 不 是 是 看情况
省略并留占位符 只有 marker 是 是 看情况
删 durable 记录 不 不 看情况 变窄
删来源 不 看情况 不 无

本章操作前两行。

决定模式与结果

剪枝三种模式发起,没有一种宣布最好。确定性规则可复现、可审计、便宜,语义 blind。智能体请求注意到完成的工作,但模型决定未来自己忘什么是在裁判自己未来的需要。人工触发 deliberate,放弃自动化。提议的 staging 从最安全的确定性子集开始,只在实验说明更广的判断挣到风险处扩展。DCP 是一实现,自主策略加人工 control 组合,生产 practice 从一产品跟不出任何东西。

四结果精确定义:

  • **保留(KEEP)。**当前证据支持继续现行上下文成员。
  • **剪枝(PRUNE)。**删除允许,现在执行。
  • **推迟(DEFER)。**删除可能 eligible,时机推迟。
  • **弃权(ABSTAIN)。**现有证据确立不了资格。

KEEP 是当前声明义务下的肯定政策结果;不必说留着有益。ABSTAIN 是认识结果:现有证据不够授权删除。逼剪枝器非删即保,它迟早删掉该 question 的东西。

资格与时机

剪枝资格   条目安全离开现行上下文吗?
剪枝时机   合格的删除何时执行?

现在合格 ≠ 现在执行

资格是证据问题。时机能考虑上下文压力、任务边界、请求节奏、恢复可用,复用存在且 telemetry 可观测处还有 edit 的复用 effect。本书在提议的剪枝模型里把资格时机当独立决定变量。Magic Context 的 README 描述排队过时内容删除到缓存安全时刻执行,是这个分开的实例不是它的证明。

第 9 章把经济 side 定性了。token reduction 本身不定经济 effect,结构复用 effect 不是实现缓存损失。变更半径是提议的核算概念。有意义的跨请求复用、provider telemetry 够处,剪枝把第一分歧与复用 effect 记进经济核算。复用没有、过期、telemetry 不够,不要求。删除能把第一分歧移到结构可复用的 token 前,那变不变成实现缓存损失看准入、可用、路由、telemetry。

时机是 trade-off,不是规则。假设性例子,第六轮发现的重复缓存前缀过期后删比还复用时删便宜,但留到那时花占用和可能的干扰,时机才要测量。政策自己的成本也进核算:省 8,000 token 的语义剪枝智能体花 3,000 分类 token 加一次调用,须 honest 计数。

    flowchart TD
    C["候选"] --> Q1("当前声明<br/>义务要求?")
    Q1 -->|yes| KEEP["保留"]
    Q1 -->|no| Q2("机械冗余<br/>或检查过 superseded?")
    Q2 -->|yes| E["合格"]
    Q2 -->|no| Q3("验证过 closed,要求<br/>结果保留?")
    Q3 -->|yes| PE["可能合格"]
    Q3 -->|no| Q4("要预测<br/>未来需要?")
    Q4 -->|yes| AB["保守政策下<br/>弃权"]
    E --> T("时机:压力、任务边界、<br/>恢复 state、可观测复用")
    PE --> T
    T -->|apply| PR["剪枝"]
    T -->|postpone| DF["推迟"]
  

风险与测什么

留着不需要的 2,000 token 日志花有界、可测的资源。删掉约束的唯一拷贝能毁任务。当待测的设计 bias,不当通用损失函数,early 剪枝 precision 优先 recall。有界成本沙箱的部署选法能不同,实验须暴露 trade-off。

false 剪枝是政策标安全的删除违反声明的 fixture 保留义务,或在指定反事实行为测试挂(删掉必需信息)。剪枝后普通下游失败本身不是因果的证明:没剪枝的对比也可能挂。没有一指标确立成熟。弃权率、覆盖、false 剪枝率一起跟踪,弃权能因为 fixture 变简单、任务混合变、分类器过度自信而降。

提议的实验

这里什么都没跑。companion 仓库有设计,安全删除是类型化梯子的一级,缓存感知 reduction 另有单独可选设计。

**生态门。**花推理预算前,描述性检查真实轨迹:现行上下文里看着像精确重复、immutable 来源重复读取、失败输入 bulk、检查过 superseded 的观察、完成 work residue 的有多少。那描述候选体量,确立不了安全删除,它的 heuristic 不能变成删除 label。真实会话语料是空的,本章对剪枝类的 prevalence 与期待杠杆无证据:

安全的机制 ≠ 常见的机会

**单位与 label。**单位是确定性轨迹 fixture。条目 states、义务、oracle 在任何条件跑前冻结,实验测剪枝政策,不测本书没建的分类器。oracle 删 fixture ground truth 标对所有声明下游义务不必要的条目,永不用模型的后面答案建。

**条件。**A 层对 raw 历史 ablation 单机制:精确冗余、错误输入 residue、检查过的 supersession、验证过的完成剪枝、预测语义剪枝当 label 的高风险条件,不当提议的政策。B 层累积用保守梯子。ablation 认出每规则在测试 fixture 下的边际 effect,累积梯子测互动与整体政策行为。规则重叠处记录施加顺序和实际删每条目的规则。

**资源核算。**条件删多少不同,预算不匹配。报告 raw token、删的 token、占位符 token、管理开销、终 token,达到的 reduction 下比安全,固定安全阈值下比 reduction,政策不靠多删赢。

**度量,永不塌。**保留:声明义务、唯一证据、必需 residue、恢复指针与来源。剪枝质量:已执行删除的 precision 与 false 剪枝率、合格候选的覆盖、决定的弃权率。分母显式报告;已执行删除空集 precision 无定义,不是完美 precision。行为:任务成功、约束违反、不支持的断言、恢复失败。资源:删的 token、开销、延迟、provider 成本。复用,只相关可观测处:第一分歧与 provider 报告的缓存 telemetry。条目因为可恢复而安全删,指针 resolve 与 identity 检查测那个假设。

结果。

  • 机械冗余删可观体量,义务零失败:支持保守剪枝。
  • 机械类安全但删得少:剪枝 valid,杠杆低。
  • 检查过的 supersession 挂:收窄或拒绝那级。
  • 完成 work 剪枝丢后面依赖:闭包证据不够。
  • 预测剪枝 false 剪枝率大涨:弃权边界成立。
  • reduction 大但开销缓存 effect 吃掉经济 benefit:经济赢不断言。
  • 剪枝后行为变好:干扰可能降了,机制没设计就别推断。
  • 优势没出现:测试 setting 里剪枝可能没帮助。

在 Context Viewer 里检查

本章的 viewer scene 端到端 work 三快照 reduction:累积,观测集里 superseded 输出删除,紧凑摘要与锚点留下,约束记录受保护。打开 scene 跟每条目跨快照。看什么:什么留了,什么离开观测表示,什么受保护或推迟,每删除的 annotated 病因实际确立什么。这在构造 fixture 上练对比仪器;它不是验证过的剪枝 pass,这里的删除关于安全什么都没证明。

同一尺度三快照:8,000 字节,工具活动后 19,300,superseded 输出离开观测集后 13,000,紧凑摘要与锚点留下。
保留、删除、受保护、推迟的材料区分的前后对比。构造说明。

在 Context Viewer 里打开剪枝对比

Worked cases

DCP 是上面想法的实现之一。它的仓库(AGPL-3.0-or-later 许可)描述保护默认工具集与可配文件模式,同样工具参数的重复工具调用去重(留最新输出),可配轮次后 purge 失败调用的输入、保留报错信息,受保护的工具输出追加进压缩摘要,请求前剪掉的内容换占位符,会话历史不动。它还说剪枝增加缓存 miss。 一处纠正重要。同样工具加参数去重满足不了本章的 Level 0(要求相同的渲染 payload),state 变时输出能不同。它像冗余问题,保证更弱,本章才推导更严的模型。DCP 的单独摘要工具不是剪枝,归[第 11 章](/zh-cn/books/context/11-chapter/)。

Magic Context(MIT 许可)是选择和时机分开的实例:README 描述排队过时内容删除到缓存安全时刻执行。它的摘要、分级、记忆捕获归后面章节和记忆书。两者都是第三方实现,当实例研究,不抄,不提成政策。

决定记录

每次 destructive 决定事后须解释得清,审计记录须独立于它修改的现行上下文。它不能因为触发剪枝的压力也作用到它就消失,审计保留要自己的有界政策,适当处独立存储,防日志无界增长。本章规定不变量,不规定存储设计。

必填字段在运行时确立不了值时可显式记 UNKNOWN 或 UNOBSERVED。证据 absence 不得转成捏造的 identity 或恢复保证。字段是:条目标识、决定、政策版本、理由与证据级、查过的声明义务、可恢复性状态、来源与出处 identity、施加时间、占位符或指针。相关可观测处可选:第一分歧、复用 telemetry、变更半径核算、经济 effect。变更半径没做成结构必填,因为第 9 章没提它。

[第 23 章](/zh-cn/books/context/23-chapter/)的编译器记录每候选为什么准入、为什么没准入。剪枝不是那个编译器的 pass,discipline 一样。

删除解不了什么

阻止干扰进来是准入选择问题,准入后删掉是剪枝。证据在不好用的位置是排布问题,删周围材料能和它互动。压缩器已经毁掉约束的包要[第 11 章](/zh-cn/books/context/11-chapter/)。剪枝还 bound 在轨迹含什么:如果确定性安全类只覆盖真实上下文的一小部分(设计留了这个结果的 room),主要解在更后面。知道自己上限的机制才是工程。

剪枝停在信息还有保留义务、义务允许低保真表示处:

无保留义务
    → 可能剪枝

保留义务留存 + 低保真允许
    → 压缩候选

低保真候选不因此该压缩,第 11 章须测它该不该:

信息安全消失不了,但义务不要求原表示时,删除到极限了。什么能变换留存?

参考

  • Lindenbauer, T., Slinko, I., Felder, L., Bogomolov, E., Zharov, Y. “The Complexity Trap: Simple Observation Masking Is as Efficient as LLM Summarization for Agent Context Management.” arXiv:2508.21433, 2025; DL4C workshop. Workshop paper, camera-ready for the 4th DL4C workshop at NeurIPS 2025. https://arxiv.org/abs/2508.21433
  • Xiao, Y.-A., Gao, P., Peng, C., Xiong, Y. “Reducing Cost of LLM Agents with Trajectory Reduction.” Proc. ACM on Software Engineering 3, FSE (July 2026), article FSE056; arXiv:2509.23586. Peer-reviewed. https://dl.acm.org/doi/10.1145/3797084
  • Wang, Y., Shi, Y., Yang, M., et al. “SWE-Pruner: Self-Adaptive Context Pruning for Coding Agents.” Preprint, arXiv:2601.16746, January 2026. https://arxiv.org/abs/2601.16746
  • Hao, X., Meng, H., Yin, X., Zhu, J., Cao, C. “Self-GC: Self-Governing Context for Long-Horizon LLM Agents.” Preprint, arXiv:2607.00692, July 2026. https://arxiv.org/abs/2607.00692
  • Tarquinen. “Dynamic Context Pruning Plugin (DCP).” OpenCode plugin, AGPL-3.0-or-later, verified September 2026. Implementation facts only. https://github.com/Tarquinen/opencode-dynamic-context-pruning
  • cortexkit. “Magic Context.” Context plugin, MIT, verified September 2026. Implementation facts only. https://github.com/cortexkit/magic-context
  • Laban, P., Hayashi, H., Zhou, Y., Neville, J. “LLMs Get Lost In Multi-Turn Conversation.” arXiv:2505.06120, May 2025. Preprint. https://arxiv.org/abs/2505.06120