← Browser AI From First Principles

构建 AI 来源内容过滤器

为具有 AI 来源证据的内容,构建一个优先采用来源信息、保留不确定性且可逆的浏览器过滤器。

假设一位用户说:

从我的浏览器体验里排除 AI 生成的内容。

这个请求很清楚。底层的事实往往不清楚。

一旦文本被复制、编辑、翻译、与人类作品混在一起或被剥掉元数据,它的来源可能就无法仅从内容中确立。因此,一个严肃的过滤器必须管理证据与不确定性,而不是假装拥有一台永不出错的探测器。


1. 精确地定义那条主张

「AI 生成」可以意味着好几件事:

  • 完全由生成式模型产出;
  • 由模型起草、由人编辑;
  • 人写的,但由 AI 翻译或校对;
  • 伴随一张 AI 生成的图片;
  • 由一个自动化账号发布;
  • 只是写成一种与模型输出相关的风格。

一个二元标签无法代表全部这些。政策应当指名它关心的那条主张,例如「发布者声明该单元包含生成文本」或「签名来源记录了一次生成动作」。

我们构建的这个过滤器作用于AI 来源的证据,而不是关于作者身份的形而上确定性。


2. 用一条证据阶梯

优先采用直接的来源信息,而不是推断:

证据 它支撑什么 主要局限
可验证的签名来源 一段被记录的创建或编辑历史 覆盖不完整;元数据可能缺失
显式的平台标签 平台声明了一个类别 定义与执行各不相同
发布者声明 来源自述涉及 AI 可能缺失或不诚实
账号或工作流证据 自动化与该来源相关 不证明每个单元的来源
内容分类器 该文本或媒体与被评估的例子相似 概率性的,且易受领域漂移影响

来源的缺失不是人类创作的证明。截图、复制粘贴或一次普通的转换都可能丢掉证据。


3. 保留有用的决策状态

证据解析器可以产出:

type OriginAssessment =
  | "verified-ai"
  | "declared-ai"
  | "likely-ai"
  | "unknown"
  | "verified-non-generative-workflow";

最后一个状态是刻意狭窄的。它意味着可用的来源记录着一条没有生成步骤的工作流;它不证明在那条记录之外没有使用 AI。

除非证据真的撑得起,否则避免一个宽泛的 human 标签。

每条评估还携带证据引用、相关时的置信度、提供方身份与局限。


4. 写下用户的规则

一条严格的基于来源的规则可能形如:

{
  "schema": "browser-policy/1",
  "id": "exclude-declared-generative-content",
  "when": {
    "signal": "origin-assessment",
    "operator": "in",
    "value": ["verified-ai", "declared-ai"]
  },
  "action": "hide",
  "unknownAction": "show",
  "allowReveal": true
}

一条更激进的规则可能在某个阈值之上模糊 likely-ai 内容。那是另一份政策,带更高的假阳性风险。界面应当把差别讲明,而不是悄悄启用一台探测器。


5. 构建一条分阶段的分类器

对每个抽取出的单元:

  1. 检视内嵌或链接的来源信息;
  2. 受支持时验证签名与声明;
  3. 通过站点适配器检视显式的站点标签;
  4. 查询发布者声明与已知的工作流元数据;
  5. 只有当政策需要更多证据时,才运行一个可选的本地分类器;
  6. 解析证据,且不抹除分歧;
  7. 应用政策动作;
  8. 写入决策轨迹。

这个次序比从模型推理开始更站得住脚,也常常更便宜。

系统绝不应把一个分类器分数变成一条来源主张。「这类似生成的文本」与「这是 AI 生成的」是不同的陈述。


6. 如实地渲染决策

一张被隐藏的卡片留下一个紧凑的占位符:

由「排除已声明的生成式内容」隐藏
证据: 平台声明
[只显示一次] [为什么?] [更改规则]

对一条启发式结果:

由「标注很可能的生成内容」模糊
证据: 本地分类器,不确定
[显示] [标记为错误] [检视证据]

措辞必须与证据的强度相符。当我们所知道的一切只是一台分类器返回了 0.71 时,用户不应看到「AI 生成」。


7. 缓存决策,但别造出一套追踪系统

重复评估浪费算力,但一个全局内容指纹数据库会带来隐私与关联风险。

一个保守的缓存可以使用:

  • 一个限定于 origin 的带键摘要;
  • 归一化的单元内容与相关元数据;
  • 政策、提供方与模型版本;
  • 一段短的保留期;
  • 默认只用本地存储。

单元、政策或证据提供方发生变化,都会让该决策失效。用户可以清空缓存并检视它的大致大小。


8. 评估那些代价高的错误

评估语料应当包含:

  • 具有可验证生成式来源的内容;
  • 已声明与未声明的生成内容;
  • 跨领域、跨语言的人写材料;
  • 深度编辑与多作者混合作品;
  • 极短的单元;
  • 引用材料与模板;
  • 对抗性改写与元数据移除。

把覆盖率与准确率分开度量。一个来源验证器在证据存在时可能高度精确,同时只覆盖网络的一小部分。

对分类器,记录假阳性、假阴性、校准、弃权与子群表现。一次假阳性可能隐藏重要的人类言论,所以代价无法归结成一个聚合分数。

发布门禁应当与动作挂钩。一个适合加上轻描淡写标签的模型,可能不适合用来悄悄隐藏内容。


9. 追踪一次完整的决策

Observatory 应当能够回放:

单元已抽取
  → 找到平台标签
  → 来源缺失
  → 跳过分类器
  → 评估: declared-ai
  → 政策命中
  → 渲染占位符
  → 用户显示了一次

这条轨迹让过滤器负有交代。它还产生了改进站点适配器、阈值与用户控件所需的数据,而不必在中心收集原始内容。


10. 在产品里讲明局限

产品必须直说:

本过滤器基于可用的来源信息、声明与可选的概率性信号行事。它无法识别所有 AI 生成或 AI 辅助的内容。

这不是一条脚注。它是功能契约的一部分。

一个诚实、可调节的过滤器仍然有用。一台虚构的神谕无法被调试、评估或信任。


结论

AI 来源过滤器作为一项个人浏览器政策是可能的,作为一台普适的真理机器则不然。

站得住的设计优先采用来源信息、对所主张的内容保持显式、对分类器保持谨慎、其效应可逆、其证据轨迹完整。最后一章把这台过滤器放进一个更宽的论证里:即使平台会做出不同的选择,用户也应当能够治理自己的界面。


参考与延伸阅读

  1. Coalition for Content Provenance and Authenticity, C2PA specifications.
  2. Content Authenticity Initiative, Content Credentials.
  3. Chrome for Developers, Content scripts.