只带回需要的东西
把外部信息回来当和候选生成恢复分开的准入决定,表示和范围分开,直面渐进披露的停止问题。
第 13 章给模型留下整洁的 live 上下文和一架子外部 artefact:
Incident 17 — lock-order inversion.
Evidence: artifact://incident-17
加五个同样形状的引用。然后任务变了:用户问死锁为什么只在并发导入下出现。事故 artefact 大概重要,benchmark 报告、迁移计划、编译器跑也可能重要。全加载一轮重建第 13 章解决的占用问题。离开只是问题的一半。
本章从[第 13 章](/zh-cn/books/context/13-chapter/)的基础设施存在开始:外部表示、valid 恢复契约、要求时 resolve 的运行时。问题是:
信息世界比当前上下文装得下时,哪些可用信息该为这次算子模型可见,什么表示范围,何时进一步披露?
候选不是上下文
**候选(candidate)**是准入的已识别机会:内容对象或表示,加准入政策推理准入资格、期待成本、来源、依赖、可用形式要的 metadata。它不一定是文档,不一定读过。能是引用、表示的 metadata、已物化的表示、片段。四 identity 分开:
候选 identity、内容 identity、表示 identity、片段 identity
片段 identity 不是 artefact identity:一 artefact 的五节是同一来源五个可区分片段,不是五个独立来源。内容能重叠,每片段当独立来源数夸大 corroboration 或来源多样性。第 27 章建候选,pheres怎么找不是本书的主题。精确查找、文本搜索、嵌入检索、数据库查询、工具搜索、智能体导航、记忆回忆是候选生成机制,都止于同一边界(候选池)。本章拿池当输入,不教不比它们。池条目须留够来源片段 identity,重复摘录冒充不了独立证据。
候选生成 → 准入请求 → 恢复 → 准入包
→ 行为牵连 → 有帮助
每步是不同的断言,本章保护的简称是:
检索到 ≠ 准入 ≠ 用了 ≠ 有帮助
简称里 retrieved 指运行时浮现为候选;不等于 artefact payload 恢复或模型观测。准入指材料在观察边界放进组装包,不等于 provider 终渲染已知。用了指陈述的操作测试下行为牵连,不是内部注意力路径的证明。带标识符标题的搜索结果不是 artefact payload:
候选生成 ≠ artefact 恢复
候选 ≠ 上下文
[第 13 章](/zh-cn/books/context/13-chapter/)的认识边界 carry 过来。政策用驻留 metadata(比如"lock-order inversion, artifact://incident-17")决定 resolve artefact 否。它不能把只在没 resolve 引用后面的细节归因给模型:
引用在场 ≠ artefact 被观测
决定住哪
五阶段 owner 不同,实现能合进一部件。边界是逻辑的,轨迹里须认得出:
- 候选 builder([第 27 章](/zh-cn/books/context/27-chapter/))产出归一化候选。
- 准入政策(本章)用允许检查的信息提议候选表示与范围;metadata 做的决定不必加载 payload。
- 恢复按[第 13 章](/zh-cn/books/context/13-chapter/)的契约 resolve 选定的外部表示,准入前检查 identity 版本访问。
- 组装器([第 23 章](/zh-cn/books/context/23-chapter/))把恢复的合格材料和预算顺序权威性范围新鲜度要求 reconcile,产出包。政策请求不是终准入的证明:预算可行 ≠ 准入 justified,提议准入 ≠ 施加准入。
- 运行时披露 controller 现有证据不够停时发起另一候选恢复准入循环,让组装器换池再组包。
有的系统恢复预览再定范围,有的只看 metadata 定。轨迹须说每决定时什么信息可用,不给每实现强加一固定执行顺序。
- 候选 builder([第 27 章](/zh-cn/books/context/27-chapter/))产出归一化候选。
- 恢复按[第 13 章](/zh-cn/books/context/13-chapter/)的契约 resolve 外部表示。
- 准入政策(本章)为计算请求或选择候选表示与范围。
- 组装器([第 23 章](/zh-cn/books/context/23-chapter/))把合格候选和预算顺序权威性范围新鲜度要求 reconcile,产出包。准入不是排序,不是终组装,不是预算:预算可行 ≠ 准入 justified。
- 运行时披露 controller 当前材料不够时发起另一次恢复准入循环,换池再调组装器。
权威性新鲜度范围本章还是 metadata。检索排名不是权威性。本章为第 19–21 章保留来源版本范围 metadata,adjudicate 什么都不。
在 Context Viewer 里检查
本章的 viewer scene 在十可用 artefact 上跑 funnel:浮现七,准入两,候选 miss、恢复失败、政策拒绝在三独立阶段。打开 scene 精确定位每失败。看什么:哪个需要的条目没进池,哪个卡在恢复,哪个政策拒绝——每位置对补救什么意思。包缺席这里永不读成无关。
在 Context Viewer 里打开 funnel scene
哪里能坏
失败不同,一种当另一种打分修错方向。几能同轨迹共存,所以它们是诊断阶段不是互斥解释:
-
**候选生成失败:**要求的信息没进池。准入修不了。
-
**恢复完整性失败:**请求的候选契约没 resolve 到意图表示([第 13 章](/zh-cn/books/context/13-chapter/))。
-
**初始准入失败:**要求的候选在池里,政策没选,或选的候选实际没准入。轨迹须区分政策拒绝和组装器拒绝。
-
**表示范围 mismatch:**来源选对,准入视图缺必需字段关系。
-
**过早披露停止:**运行时在 fixture 标准(许可披露还有要求证据)下停了。
-
**过度披露:**fixture 指定的充分条件满足后还继续扩展;这是资源判断,不一定是行为失败。
-
**下游使用失败:**要求的材料在观察边界在场,测试的行为没正确用([第 5 章](/zh-cn/books/context/05-chapter/))。
-
**候选生成失败:**要求的信息没进池。准入修不了。
-
**恢复完整性失败:**选的候选契约没 resolve 到意图表示([第 13 章](/zh-cn/books/context/13-chapter/))。
-
**初始准入失败:**要求的候选在池里,被拒或从没请求。
-
**表示范围 mismatch:**候选选对,准入材料缺必需字段关系。
-
**过早披露停止:**hidden 材料还要时运行时停了。
-
**过度披露:**当前材料够了还继续披露。
-
**下游使用失败:**材料在场没正确用([第 5 章](/zh-cn/books/context/05-chapter/))。
候选 miss ≠ 恢复失败 ≠ 准入失败
全准入的代价
假设十 artefact 三含任务要的信息。生成器返回七:三要的、四无关。fixture label 下候选召回完美,全准入七还能经臃肿干扰位置成本挂。检索召回不是准入精度。候选层 precision 还低估占用:一有用 10 token artefact 旁一无关 20,000 token artefact,候选 precision 50%,准入 payload token 几乎全归无关 artefact。那个算术没确立行为 harm,也没证明那些 token 删掉安全。本章因此 token 加权占用和候选层结果一起报告,不互相代替。必需、 supporting、oracle 不必要、干扰 token,加引用 metadata token,fixture label 支撑归因处才分;混合用途 span 不硬塞互斥 token label。来源层计数(唯一 artefact、片段、每来源 token)也报告。
无关材料能伤,有证据。Amiraz 等把段落的 distracting effect 定义成给不能回答问题的段落模型不 abstain 的概率。参数 30 亿到 700 亿的七个模型报告跨模型强相关,Natural Questions 上金段落加 hard 干扰段落按模型掉 6–11 点。还报告高排名无关结果 distracting 潜力大,加 reranker 平均 distracting effect 涨。总体是检索段落上的问答,不是智能体 artefact 准入。它说明检索无关段落 degrade 生成,那个检索 setup 下排名把一些 hard 干扰集中到顶部。固定 top-k 因此不能 assumed 行为中性。它还是简单严肃的基线,精巧政策打平它的结果有价值。
相关、效用与使用
相似性止于候选边界。检索分数不是准入效用,相关不是有帮助:
相关 ≠ 有帮助
效用边际,看包。候选加什么看已驻留什么,ΔB(x | C) 指除此受控条件异同的行为差,不是候选内在带的价值。对比须指定任务模型解码测量,加的材料怎么改变长度位置。准入后的结果差反映那些变化和候选内容:
候选效用 ≠ 候选属性
准入效用任务相对多维:表示加进当前包的行为 effect,连同添加的资源与可能干扰一起考虑。任务成功、token、延迟、成本、干扰分开,部署政策定义标量除外。候选只在声明接受标准 control 下 B(C + x) 对 B(C) 的对比里行为有帮助;单成功的回答不是边际效用测量。冗余也不是无关。第二来源重述要求事实能 corroborate、解歧义、加独立来源;同一来源的重复片段不自动给那个独立。fixture 声明冻结义务下重复证据不必要时重复不必要。label 是候选任务基线判断,不是 artefact 的永久属性。
用了须是可观测构造。准入材料用过能指模型引用它,它拿掉后行为变,或反事实测试某结果,这些不等价。本章不对机制使用断言:
模型提到 x ≠ x 导致行为
表示与范围
两选择容易搞混。表示选择问准入候选的哪种合法表示(第 11、12 章)。范围问表示内容进来多少:
表示 ≠ 范围
更小范围 ≠ 满足义务更少
30,000 token artefact 的 300 token 精确节准入是来源表示里的范围选择。整篇生成 300 token 摘要是变换([第 11 章](/zh-cn/books/context/11-chapter/))。预生成的结构化记录准入是表示选择([第 12 章](/zh-cn/books/context/12-chapter/))。十 token 精确标识符完美满足标识符义务,范围对保留义务 judge,不对细节标量。选精确 span 还能删掉解释要的限定关系;选的范围须当整体评估,含要求的周围上下文。当前政策要求精确字段关系,只有独立证明满足义务的视图合格。任务 specific 生成提取把范围选择和变换搞混,须照实记录。
扩展做三件不同的事,轨迹须说是哪件:选同一内容对象另一已 valid 表示(范围),同一来源表示进来更多(范围),加另一候选。“扩展次数"不说这个没法解释。
渐进披露与停止问题
渐进披露把更丰富广泛信息的物化准入推迟到当前算子给出需要更多的证据。
它不是渐进摘要,不是表示层级。真实 artefact 没有公共梯子:结构化记录能比节好用,两精确 span 能打赢全文。从 metadata 到语义 cue、节、全文 artefact 的披露路是一种实现模式,不是典范。第 12 章让驻留对象在表示间走,这里从非常驻候选往里拿。
披露边界运行时面对充分性决定:准入的证据对任务声明接受标准够吗,还值得进一步披露吗?政策返回充分、不充分、不确定,不确定与预算耗尽怎么处理须规定。这不一定是每没披露候选 x 的独立决定;候选选择只在 controller 决定继续后跟。模型报告自信不是充分的证据:
模型自信 ≠ 上下文充分
充分相对任务、接受标准、义务,标准须独立被评估的政策定义。结构问题:政策只能在准入证据、候选 metadata、可用预览、别的允许 state 上行动。暴露重要遗漏的事实可能在下次披露后面。预览帮预测充分,coherent 本身 certify 不了;停止断言还是 provisional,除非任务 specific 检查确立:
系统怎么知道看够了,证明看够的信息可能在下次披露后面?
两错是代价。停早了要求的信息没观测,比如事故 cue 记修复、细节节把修复限在导入路、导出路还死锁。续长了加成本臃肿干扰没 benefit,确定性政策和模型一样能过度扩展:
过早停止 ≠ 过度扩展
eager 与 just-in-time 准入 trade 不同。eager 预加载买 round trip 少、证据立即可用,代价过度准入。just-in-time lean 起步,代价步骤延迟 miss。Anthropic 上下文工程指南描述混合(为速度 upfront 取一些数据,智能体酌情进一步探索),警告没 guidance 智能体追死胡同 miss 关键信息。当政策假设,近期需要预测高的材料预加载,不确定的按需披露。需要是预测,hindsight 归 oracle。确定性不等于正确,确定性门也一样。模型还是运行时驱动披露是结构选择,确定性规则、learned 政策、模型请求、评估器触发、混合都是选项,本章不加冕任何一个。
证据
| 来源 | 证据类型 | 验证的断言 | 本章用 | 没确立 |
|---|---|---|---|---|
| Anthropic,“Effective context engineering for AI agents” | 厂商指南 | 推理前嵌入检索 vs 轻标识符运行时加载;渐进披露描述成经探索增量发现;部分数据 upfront 加进一步探索的混合;没 guidance 死胡同 miss 关键信息的风险 | 模式与陈述的风险 | 改善行为 |
| Anthropic,“Code execution with MCP”(Jones、Kelly,2025 年 11 月) | 厂商工程文章 | 工具放文件系统按需读;带细节级别参数的搜索工具;进模型前代码过滤结果 | 渐进披露与预上下文过滤的实现模式 | 行为 benefit |
| Amiraz 等,“The Distracting Effect” | 同行评审论文(ACL 2025 proceedings) | 如上:七模型,Natural Questions hard 干扰 6–11 点,高排名无关结果更 distracting,rerank 抬高平均 effect | 检索无关段落 degrade 生成 | 智能体 artefact 准入;ranker 的 general 规则 |
提议的实验
这里什么都没跑。真实会话语料是空的,日常工作呈现 ambiguous 多候选准入多 frequent 没测量。
**生态门。**精巧机器前描述真实轨迹:候选池尺寸 payload 尺寸,不止一候选可用多 frequent,冗余,要求候选 prevalence,后面扩展,实际准入候选 share,披露延迟,大干扰多常见。
准入政策能帮忙 ≠ 真实 workload 呈现足够 ambiguity justify 它
**实验 A:静态准入。**同样冻结候选池驻留基线,下包进什么?冻结:任务、驻留上下文、池、每政策可见 metadata、候选 identity 版本、排名、模型、解码、预算、独立定义的 fixture 义务。条件:无外部准入;可行处全预加载;提前固定的 top-k;只看 metadata 的确定性政策;决定成本计入的模型辅助政策;oracle。oracle 相对冻结义务认出充分候选集,子集包含或单独陈述的资源度量认出最小集。它不断言保证要求信息的集合保证模型成功。oracle label 跑前固定,不从模型输出推导。几不同集合满足同样义务,简单条目 precision recall 罚 valid 替代。主度量义务覆盖、缺失义务、准入不必要 token、任务结果、预算违反;候选 precision recall 在唯一条目 label justified 处次要。选择请求和成功恢复组装准入分开报告,政策开销:模型 token、恢复调用、延迟、评估器调用。
**表示范围子实验。**含要求证据的来源,对比精确完整表示、精确选节 span、预生成紧凑结构化表示,独立检查同样适用义务。条件里什么都不生成。底层来源固定候选 identity,但精确 span 和变换表示改变不同因素。当不同对比对待:只范围对比固定表示类型;表示对比固定要求义务评估目标,报告达到尺寸。度量义务留存、现行 token、行为、缺失事实,变换表示还测不支持添加。不把选什么来源和选什么形式多少搞混。
**实验 B:渐进披露。**运行时何时披露更多?冻结:候选 universe、合法披露选项成本、任务义务、初始驻留视图、预算、decisive hidden 事实、每允许步骤后独立 label 的充分 state。条件:可行处 eager 全披露、固定 schedule、确定性充分政策、模型请求披露、混合、oracle 停止,实现成本 prohibitive 就简化。六对抗 fixture 带陷阱:看起来充分、藏反转限定的预览;大 plausible 干扰;小 decisive 低排名条目;冗余 corroboration;选的视图缺精确字段的要求来源;初始上下文已充分。wrong stop 是冻结充分标准下失败的 state 停止,还有 affordable 许可披露能满足;要求证据不可用或预算阻止扩展的单报。oracle 不必要继续是当前 state 达标后还披露;fixture 相对的资源判断,不是说额外证据 robustness 价值零。两类型都报,轮次、工具调用、累计延迟成本,每扩展加另一候选、加范围、换表示说清。一 fixture 里重复步骤不是独立任务。
行为结果任务成功、精确约束保留、不支持的断言、错误结论、abstain,正确输出不读成使用。provider 语义 telemetry 支持处第一分歧复用 effect 记录,变更半径还是提议概念。
**算数的结果。**全预加载或冻结 top-k 现实预算下打平精巧政策。门省 token 行为变差,或行为变好成本更高,这是 trade-off 不是 dominate。测试模型上无关候选无测得 harm。披露常停早,或漫游开销吃掉 benefit。表示范围比候选选择重要。多等价充分集主导评估。真实候选池小而 unambiguous。
现实预算下精巧政策行为打平全预加载或冻结 top-k,实现资源代价 comparable,测试 fixture 模型上证据不支持那些条件下更精巧的门。同样,为 staged 披露专门构造的 fixture 上的改善没确立那些机会在真实 workload 常见。区分活过两种结果:候选 ≠ 上下文,候选 miss ≠ 准入 miss,检索到 ≠ 准入 ≠ 有帮助,表示 ≠ 范围,引用在场 ≠ artefact 被观测。
智能体下一步制造什么
本章 assumed 候选 universe,智能体在其中走。智能体还制造上下文。计划、假设、工具观察、摘要、中间 artefact 连续制造新未来候选,含误导的,取回能 steer 后面。取回生成可能,准入制造上下文,智能体开始自己生成可能时发生什么是[第 15 章](/zh-cn/books/context/15-chapter/)继承的问题。
参考
- Anthropic Applied AI team (Rajasekaran, Dixon, Ryan, Hadfield, et al.). “Effective context engineering for AI agents.” Vendor engineering guidance, September 2025. https://www.anthropic.com/engineering/effective-context-engineering-for-ai-agents
- Jones, A., Kelly, C. “Code execution with MCP: Building more efficient agents.” Anthropic engineering article, 4 November 2025. https://www.anthropic.com/engineering/code-execution-with-mcp
- Amiraz, C., Cuconasu, F., Filice, S., Karnin, Z. “The Distracting Effect: Understanding Irrelevant Passages in RAG.” arXiv:2505.06914, May 2025; ACL 2025 long papers. Results as reported in the full text (Table 1, Figures 2 and 4). https://arxiv.org/abs/2505.06914