构建 AI 来源内容过滤器
为具有 AI 来源证据的内容,构建一个优先采用来源信息、保留不确定性且可逆的浏览器过滤器。
假设一位用户说:
从我的浏览器体验里排除 AI 生成的内容。
这个请求很清楚。底层的事实往往不清楚。
一旦文本被复制、编辑、翻译、与人类作品混在一起或被剥掉元数据,它的来源可能就无法仅从内容中确立。因此,一个严肃的过滤器必须管理证据与不确定性,而不是假装拥有一台永不出错的探测器。
1. 精确地定义那条主张
「AI 生成」可以意味着好几件事:
- 完全由生成式模型产出;
- 由模型起草、由人编辑;
- 人写的,但由 AI 翻译或校对;
- 伴随一张 AI 生成的图片;
- 由一个自动化账号发布;
- 只是写成一种与模型输出相关的风格。
一个二元标签无法代表全部这些。政策应当指名它关心的那条主张,例如「发布者声明该单元包含生成文本」或「签名来源记录了一次生成动作」。
我们构建的这个过滤器作用于AI 来源的证据,而不是关于作者身份的形而上确定性。
2. 用一条证据阶梯
优先采用直接的来源信息,而不是推断:
| 证据 | 它支撑什么 | 主要局限 |
|---|---|---|
| 可验证的签名来源 | 一段被记录的创建或编辑历史 | 覆盖不完整;元数据可能缺失 |
| 显式的平台标签 | 平台声明了一个类别 | 定义与执行各不相同 |
| 发布者声明 | 来源自述涉及 AI | 可能缺失或不诚实 |
| 账号或工作流证据 | 自动化与该来源相关 | 不证明每个单元的来源 |
| 内容分类器 | 该文本或媒体与被评估的例子相似 | 概率性的,且易受领域漂移影响 |
来源的缺失不是人类创作的证明。截图、复制粘贴或一次普通的转换都可能丢掉证据。
3. 保留有用的决策状态
证据解析器可以产出:
type OriginAssessment =
| "verified-ai"
| "declared-ai"
| "likely-ai"
| "unknown"
| "verified-non-generative-workflow";
最后一个状态是刻意狭窄的。它意味着可用的来源记录着一条没有生成步骤的工作流;它不证明在那条记录之外没有使用 AI。
除非证据真的撑得起,否则避免一个宽泛的 human 标签。
每条评估还携带证据引用、相关时的置信度、提供方身份与局限。
4. 写下用户的规则
一条严格的基于来源的规则可能形如:
{
"schema": "browser-policy/1",
"id": "exclude-declared-generative-content",
"when": {
"signal": "origin-assessment",
"operator": "in",
"value": ["verified-ai", "declared-ai"]
},
"action": "hide",
"unknownAction": "show",
"allowReveal": true
}
一条更激进的规则可能在某个阈值之上模糊 likely-ai 内容。那是另一份政策,带更高的假阳性风险。界面应当把差别讲明,而不是悄悄启用一台探测器。
5. 构建一条分阶段的分类器
对每个抽取出的单元:
- 检视内嵌或链接的来源信息;
- 受支持时验证签名与声明;
- 通过站点适配器检视显式的站点标签;
- 查询发布者声明与已知的工作流元数据;
- 只有当政策需要更多证据时,才运行一个可选的本地分类器;
- 解析证据,且不抹除分歧;
- 应用政策动作;
- 写入决策轨迹。
这个次序比从模型推理开始更站得住脚,也常常更便宜。
系统绝不应把一个分类器分数变成一条来源主张。「这类似生成的文本」与「这是 AI 生成的」是不同的陈述。
6. 如实地渲染决策
一张被隐藏的卡片留下一个紧凑的占位符:
由「排除已声明的生成式内容」隐藏
证据: 平台声明
[只显示一次] [为什么?] [更改规则]
对一条启发式结果:
由「标注很可能的生成内容」模糊
证据: 本地分类器,不确定
[显示] [标记为错误] [检视证据]
措辞必须与证据的强度相符。当我们所知道的一切只是一台分类器返回了 0.71 时,用户不应看到「AI 生成」。
7. 缓存决策,但别造出一套追踪系统
重复评估浪费算力,但一个全局内容指纹数据库会带来隐私与关联风险。
一个保守的缓存可以使用:
- 一个限定于 origin 的带键摘要;
- 归一化的单元内容与相关元数据;
- 政策、提供方与模型版本;
- 一段短的保留期;
- 默认只用本地存储。
单元、政策或证据提供方发生变化,都会让该决策失效。用户可以清空缓存并检视它的大致大小。
8. 评估那些代价高的错误
评估语料应当包含:
- 具有可验证生成式来源的内容;
- 已声明与未声明的生成内容;
- 跨领域、跨语言的人写材料;
- 深度编辑与多作者混合作品;
- 极短的单元;
- 引用材料与模板;
- 对抗性改写与元数据移除。
把覆盖率与准确率分开度量。一个来源验证器在证据存在时可能高度精确,同时只覆盖网络的一小部分。
对分类器,记录假阳性、假阴性、校准、弃权与子群表现。一次假阳性可能隐藏重要的人类言论,所以代价无法归结成一个聚合分数。
发布门禁应当与动作挂钩。一个适合加上轻描淡写标签的模型,可能不适合用来悄悄隐藏内容。
9. 追踪一次完整的决策
Observatory 应当能够回放:
单元已抽取
→ 找到平台标签
→ 来源缺失
→ 跳过分类器
→ 评估: declared-ai
→ 政策命中
→ 渲染占位符
→ 用户显示了一次
这条轨迹让过滤器负有交代。它还产生了改进站点适配器、阈值与用户控件所需的数据,而不必在中心收集原始内容。
10. 在产品里讲明局限
产品必须直说:
本过滤器基于可用的来源信息、声明与可选的概率性信号行事。它无法识别所有 AI 生成或 AI 辅助的内容。
这不是一条脚注。它是功能契约的一部分。
一个诚实、可调节的过滤器仍然有用。一台虚构的神谕无法被调试、评估或信任。
结论
AI 来源过滤器作为一项个人浏览器政策是可能的,作为一台普适的真理机器则不然。
站得住的设计优先采用来源信息、对所主张的内容保持显式、对分类器保持谨慎、其效应可逆、其证据轨迹完整。最后一章把这台过滤器放进一个更宽的论证里:即使平台会做出不同的选择,用户也应当能够治理自己的界面。
参考与延伸阅读
- Coalition for Content Provenance and Authenticity, C2PA specifications.
- Content Authenticity Initiative, Content Credentials.
- Chrome for Developers, Content scripts.