← Browser AI From First Principles

当本地不可用时

在本地浏览器 worker、确定性替代方案与远程回退之间设计显式降级,不隐藏能力变化与数据移动。

浏览器原生 AI 功能不能假定它偏好的本地能力处处存在。

API 可能缺失。硬件可能不具备资格。某个语言对可能不受支持。模型资源可能需要获取。会话选项可能被拒绝。存储压力或一次浏览器更新可能改变昨天还好用的状态。

可靠性从把本地可用性当作一种运行时条件、而不是一条安装承诺开始。


1. 不可用不是一个状态

有用的功能会区分:

状态 含义 可能的响应
API 缺失 全局对象未暴露 解释要求或使用另一实现
Unavailable 浏览器拒绝所请求的能力 禁用或改路由
Downloadable 所需资源未就绪 获取前先询问用户并显示进度
创建被拒 能力存在但配置失败 使用兼容配置档或停止
运行时失败 会话存在但操作失败 按政策重试或保留该失败
输出被拒 操作完成但验证失败 修复、弃权或请求评审

“AI 不可用"抹掉了应用需要做出的决策。


2. 降级是一段政策阶梯

一个合理的回退次序可能是:

首选的浏览器本地能力
        ↓ 不可用
另一个兼容的本地浏览器 worker
        ↓ 不可用
确定性的非 AI 行为
        ↓ 不足
经显式批准的远程服务
        ↓ 不可用或不被允许
人工流程

次序取决于功能。一个语言选择器可能在任何远程请求之前优先选择确定性的用户选择。一次大规模的公开文档评估可能自动路由到另一个本地 Chrome worker。

回退应当保住任务契约,而不只是产出一段文本。


3. 不要悄悄改变数据路由

从浏览器本地推理转移到云服务会改变系统。

本地路径
页面内容 → 浏览器管理的模型 → 结果

远程路径
页面内容 → 网络 → 服务 → 模型 → 结果

界面必须在受保护内容移动之前披露这次变化。

function chooseFallback({ localState, contentClass, remoteConsent }) {
  if (localState === "ready") return { route: "browser-local" };
  if (contentClass === "private") return { route: "manual", reason: "local-unavailable" };
  if (remoteConsent) return { route: "remote" };
  return { route: "manual", reason: "consent-required" };
}

同意不是一个为每类数据永久记住的布尔值。它应当限定于某个路由、目的与保留政策。


4. 多个 Chrome 可以组成一个本地 worker 池

我们的实验工作流还有另一种回退。一个 Chrome profile 可以运行默认浏览器配置,另一个可以运行实验性模型 flag,第三个可以跑另一个渠道。

与其手工填元数据、手工点每个 fixture,我们可以把每个浏览器当作一个带标签的 worker:

    flowchart TD
    J[JSON 任务或 inbox 文件] --> C[本地协调器]
    C --> A[Chrome worker 基线]
    C --> B[Chrome worker 实验]
    A --> R[轨迹与结果存储]
    B --> R
  

协调器是一个 localhost 进程。它可以暴露一个 HTTP 端点并监视一个目录。各扩展注册能力、租用兼容的任务并返回事件。

浏览器扩展本身不应监视任意的 Windows 目录。浏览器的文件访问受权限绑定,且 Manifest V3 的 service worker 可能被挂起。文件系统所有权属于那个本地进程。


5. 任务是声明式的,不是任意的 JavaScript

一个评估请求可能形如:

{
  "schema": "browser-ai-observatory.job/1",
  "id": "job-20260902-001",
  "selector": {
    "tags": ["canary", "gemma4-enabled"]
  },
  "operation": "run-fixture",
  "payload": {
    "fixtureId": "prompt-session-accounting",
    "phase": "warm-session",
    "repetitions": 3
  },
  "captureMode": "metrics-only"
}

操作来自一份允许清单。协调器不得接受 javascript 这样的字段并在浏览器页面里执行它。

声明式任务让我们可以校验意图、强制限制,并跨 worker 比较结果。


6. worker 元数据应当只注册一次

重复的运行表单之所以存在,是因为轨迹需要来源。自动化应当去掉重复,而不是去掉来源。

每个 Chrome profile 可以注册一份稳定的 worker 描述:

{
  "workerId": "chrome-gemma4-01",
  "tags": ["canary", "gemma4-enabled", "windows"],
  "operatorModelLabel": "Gemma 4 flag enabled",
  "configurationNotes": "Chrome Canary; experimental flag enabled",
  "hardwareNotes": "Windows; 24 logical processors; 32 GiB memory"
}

扩展会补充自动观察到的信息,例如 user agent、platform、language、扩展版本与当前 API 状态。

模型身份保持为操作者提供,直到浏览器开始为它背书为止。


7. 任务需要租约与幂等

在多个 worker 之下,两个浏览器绝不能意外执行同一个任务,除非明确请求了复制。

协调器可以让一个任务经历:

pending → leased → running → completed
                    ├── failed
                    └── expired → pending

租约包含一个 worker ID 与过期时间。如果浏览器关闭了,协调器可以让该任务重新可用。

每个任务都有一个幂等键。结果携带 job ID、attempt ID 与 worker ID。来自过期尝试的迟到结果仍是证据,但不会静默地覆盖已被接受的结果。


8. 目录输入与 HTTP 输入可以共享同一份契约

本地服务可以支持两种工作流:

POST /v1/jobs

以及:

inbox/*.json

目录监视器只应读取写入完成的文件。生产者写到一个临时名,再原子地重命名进 inbox。协调器校验 schema,并把文件移入 pending、rejected 或 dead-letter。

两条路径调用同一个任务服务。否则基于文件的与基于 HTTP 的提交会随着时间获得不同的行为。


9. localhost 仍然是一条安全边界

监听 localhost 的服务可能收到来自其他本地进程的请求,以及视配置而定的、恶意网页的请求。

最低限度的控制包括:

  • 绑定到 127.0.0.1,而不是每个网络接口;
  • 使用随机鉴权令牌;
  • 限制 CORS 并校验扩展 origin;
  • 限制任务与结果的尺寸;
  • 允许清单化操作与目标 origin;
  • 对内容捕获或页面动作要求显式批准;
  • 保留只追加的审计记录;
  • 绝不把令牌放进导出的轨迹里。

「本地」不意味着「受信」。


10. 另一个 worker 不总是有效的回退

一个请求实验性配置的任务,不应静默地在基线 worker 上运行。那样会产出一个结果,同时让这次比较失效。

worker 选择需要硬性要求与偏好:

{
  "requires": ["prompt-api", "gemma4-enabled"],
  "prefers": ["warm-session"],
  "onNoMatch": "leave-pending"
}

对某些产品任务而言,另一个兼容的本地 worker 是可接受的。对受控实验而言,配置不匹配必须让任务停止。

路由成功从属于实验有效性。


11. 回退决策属于轨迹

记录:

  • 请求的路由;
  • 被观察到的能力状态;
  • 被选中的路由与 worker;
  • 被拒绝的替代项;
  • 同意或政策决策;
  • 数据是否跨越了网络边界;
  • 由此产生的功能评估。

这让我们可以区分"本地模型产出了糟糕结果"与"本地能力缺席、由另一个系统处理了该任务”。

没有路由证据,来自不同系统的评估结果可能被意外地混在一起。


结论

本地 AI 可用性是有条件的。可靠的软件会对该条件分类、遵循一段显式的降级政策,并在数据路由改变时告诉用户。

对我们的研究环境而言,一个 localhost 协调器把多个 Chrome profile 变成受控的 worker 池。JSON 任务去掉重复表单,同时保留 worker 来源。目录摄取与 HTTP 提交共享同一份被校验的契约。

下一章更仔细地审视这份契约。JSON 形状帮助机器沟通,但结构化输出仍然是模型输出,必须先被解析、验证与约束,然后才能成为可执行的权威性。


参考与延伸阅读

  1. Chrome for Developers, Get started with built-in AI.
  2. Chrome for Developers, Understand built-in model management in Chrome.
  3. Chrome Extensions, Native messaging.
  4. Chrome Extensions, Declare permissions.