dsh-llm-router：Lead/Worker 模型路由

它解决什么问题

一轮任务里，「规划」需要强模型，「执行」用便宜模型就够。难的不是省钱，而是把这个决策放进 harness 自己的注册表里——而不是塞进一个外部代理。

ctx.llm.stream({ provider: 'lead-worker', model: 'auto', messages })
        │
        ├── llm/stream waterfall          ← 任何插件都能观察到这次「路由调用」
        │
        └── RoutingAdapter（本插件）
                │  询问 ctx.llmRouter  →  llm-router/decide waterfall  →  策略
                │
                └── ctx.llm.stream({ provider: 'deepseek-official', model: 'deepseek-v4-pro', … })
                        └── 再次经过 llm/stream waterfall  ← 上游那一跳同样可见

安装（三种方式）

方式一 · DSH 社区市场

1. 添加目录源 Community Market → sources → add source：https://zephyrrtos.cn/dsh-llm-router/catalog-source.json（目录里 latestVersion 已指向 0.1.1）
2. 安装条目 列表里会出现 Lead/Worker Model Router；安装动作仍然需要你确认（源只携带元数据）。
3. 重启 DSH 桌面 profile 在启动时读取 patch 层；重启后模型选择器里出现 Lead/Worker Router 分组。

方式二 · 命令行

dsh plugin --profile desktop add @hakehuang/dsh-llm-router@0.1.1

方式三 · 手工把 bundle 行粘进 patch 层

随包的 cordis.patch.yml 会在 bundle 安装时自动生效；手工安装时把下面这段放进 profile 自己的 patch 层，它同时也是配置的写法：

- insert:
    - id: llm-router
      name: '@hakehuang/dsh-llm-router'
      config:
        provider: lead-worker
        lead: { provider: deepseek-official, model: deepseek-v4-pro, reasoningEffort: high }
        workers:
          - { id: flash, provider: deepseek-official, model: deepseek-v4-flash, reasoningEffort: low }

配置字段

配置写在 patch 行的 config: 下。完整表见包内 README（中文版），这里列出实际会调的：

虚拟模型、策略与推理强度

路由以提供方分组出现在模型选择器里，虚拟模型为 auto、lead、worker，以及每个已配置 worker 的 worker:<id>。

由此得到的「一轮成本形状」是：一次 lead 调用做规划，其余步骤交给 worker；便宜路由持续失败时再升级回 lead。 lead 决策刻意不粘滞（这正是执行阶段变便宜的空间），worker 决策粘滞（让上游 prompt cache 在整轮中保持有效）。

把它当成服务用：观察 / 拦截 / 替换

路由本身是 cordis 服务 ctx.llmRouter，也是 ctx.llm.router 这个可赋值属性——这正是它「可替换」的入口。

// 观察：只需要一个监听器
ctx.on('llm-router/decision', (d) => log(`${d.rule} → ${d.provider}/${d.model}`))
ctx.on('llm-router/settled', ({ decision, finish, usage }) => meter(decision.routeId, usage, finish))

// 拦截：决策 waterfall 可组合；直接给出决策而不调用 next() 就决定了那一次请求
ctx.on('llm-router/decide', (view, next) => {
  if (view.imageCount > 0) return { role: 'lead', rule: 'house:images', reason: '带图的任务错不起' }
  return next()
})

// 替换（由轻到重）：换策略 → 换整个路由器 → 卸载本插件自己注册适配器
const withdraw = ctx.llmRouter.registerStrategy({
  id: 'house:cheap-first',
  decide: () => ({ role: 'worker', rule: 'house:cheap-first', reason: '总是走便宜路由' }),
}, { activate: true })

// 作为调用方直接使用这条路由
for await (const chunk of ctx.llm.stream({
  provider: 'lead-worker',
  model: 'worker:flash',   // 或 'auto'，交给策略决定
  messages,
  routerRole: 'lead',      // 可选：手工调用的提示；由路由器消费，绝不向下游转发
})) { /* … */ }

成本、缓存，以及这个路由器的坦白

装完怎么验证、出问题怎么查

1. 模型选择器出现分组 重启 DSH 后，选择器里应出现 Lead/Worker Router，可选虚拟模型 auto / lead / worker / worker:<id>。
2. 挂载清单里有这一行 dsh --profile desktop --dump-config 输出里应出现 - id: llm-router / name: '@hakehuang/dsh-llm-router'（含你写的 config）。
3. 看决策 接一个 llm-router/decision 监听器，或读 ctx.llmRouter.snapshot()，确认命中的 rule 符合预期。

相关链接