← 返回列表
D

dsh-bakeoff

v0.1.0 · 1 天前发布

DSH 插件:同一任务、同一代码基线,多 Variant(模型/Preset)并行对照实验、EvidenceReceipt 对比与胜出 Patch 导出

dsh-plugindeepseek-harnessexperimentevaluationbakeoff

README

dsh-bakeoff

同一任务、同一代码基线,不同模型 / Preset 并行对照,用确定性验收回执而不是感觉来选方案。

| 优先级 | 状态 | 名称核查 | 形态 |
| --- | --- | --- | --- |
| S(排队第二) | MVP 已发布(2026-08-16) | 原名 dsh-arena 已被占用,改用 dsh-bakeoff(未占用,2026-08-15) | 插件套件 |

命名说明

原方案名 dsh-arenaApageoflove/DSH-arena("Local-first experiment and evaluation workbench",1★)同名且同方向,必须改名。bakeoff 是业界对"同题多方案对比评测"的惯用称呼,语义自解释;备选名 dsh-crucibledsh-gauntlet 亦经核查可用(记录见 docs/research.md)。

解决什么问题

模型、Preset、插件组合、Agent Loop 策略越来越多,用户面临"到底哪个组合适合当前任务"的选型问题,而目前只能凭感觉。dsh-bakeoff 让同一任务在完全相同的代码环境中以多个 Variant 运行,比较:

  • 是否真正完成(Evidence Gate 回执判定,非模型自述);

  • 测试/构建/Lint 是否通过;

  • Diff 规模与修改范围合规性;

  • 工具失败次数、运行时间、Token 与费用。
  • 使用方式(MVP)

    在仓库中编写 Experiment Spec(YAML),然后运行 slash 命令:

    ```yaml

    版本兼容矩阵

    DSH 版本状态说明
    dsh@0.1.0-rc.6 ✅ 兼容 cordis patch ✅
    dsh@0.1.0 ✅ 兼容 标准 patch ✅
    dsh@0.2.0 ⚠️ 待验证 待实测(API 可能在变)
    dsh@0.3.0+ ❓ 未知 尚未发布

    💡 兼容矩阵每周末自动跑实测,欢迎 PR 修正

    元数据

    License
    MIT
    npm
    dsh-bakeoff
    Repo
    Engines
    {"node":">=22.19"}
    Weekly DL
    0
    Monthly DL
    0
    dsh.bundle
    {"bundle":{"patch":"./cordis.patch.yml"}}