← 返回列表
D

dsh-llm-auto-route

v0.1.0 · 4 天前发布

Provider discovery, matching, health checks, and pre-output failover for DeepSeek Harness.

deepseek-harnessdsh-plugincordisllmprovider-routingtypescript

README

dsh-llm-auto-route:Provider 自动匹配与路由插件

dsh-llm-auto-route 是 DeepSeek Harness 的社区 Cordis 插件。它根据环境变量、Base URL、端口和模型名前缀,从已经由 dsh-llm-pi-ai 配置并注册的 route 中选择一个,并在首个可见输出前执行安全的失败切换。

本项目只实现路由策略,不实现 HTTP 协议、不携带 Provider SDK,也不注册 openaianthropicdeepseek 等适配器 route。Provider、模型目录、凭证、流式协议仍由官方 @deepseek-ai/dsh-llm-pi-ai 负责。

这是社区项目,不是 DeepSeek Harness 官方包,也不代表官方背书。

要求

  • Node.js >=22.19.0

  • DeepSeek Harness 0.1.0-rc.5 或兼容的 0.1.x 版本

  • 已配置目标 route 的 @deepseek-ai/dsh-llm-pi-ai
  • 当前开发依赖按 npm 0.1.0-rc.6 companion packages 验证,同时保持对 rc.5 的 peer 兼容范围。

    安装

    bash
    pnpm add dsh-llm-auto-route

    官方 base bundle 已包含 @deepseek-ai/dsh-llm-pi-ai。如果你手动组合插件,请先加载官方适配器,再加载本包;使用部署中原有的 DeepSeek Harness/Cordis composition 命令加载仓库内的 cordis.patch.yml

    这个 patch 只插入一个名为 `llm-auto-route

    查看完整 README →

    版本兼容矩阵

    DSH 版本状态说明
    dsh@0.1.0-rc.6 ✅ 兼容 cordis patch ✅
    dsh@0.1.0 ✅ 兼容 标准 patch ✅
    dsh@0.2.0 ⚠️ 待验证 待实测(API 可能在变)
    dsh@0.3.0+ ❓ 未知 尚未发布

    💡 兼容矩阵每周末自动跑实测,欢迎 PR 修正

    元数据

    License
    MIT
    npm
    dsh-llm-auto-route
    Repo
    git+https://github.com/qinyu765/dsh-llm-auto-route.git
    Engines
    {"node":">=22.19.0"}
    Weekly DL
    0
    Monthly DL
    0
    dsh.bundle
    {"bundle":{"patch":"./cordis.patch.yml"}}