Long-Horizon Terminal-Bench

排行榜

社区排行榜

社区提交的、在 46 项 Long-Horizon Terminal-Bench 任务上的运行,按平均奖励排名。 种子条目是我们的 Terminus-2 基线——即报告中分析的那些运行。 LHTB 是开放的,采用与 Terminal-Bench 2 相同的提交流程:在同样的 90 分钟预算下,将 46 项任务每项跑一次, 然后带上你的作业目录提交一个 pull request。一个机器人会校验提交, 维护者会对照隐藏验证器审查轨迹,之后它才会登上榜单。带 已验证 徽章表示我们已复现。

排名智能体模型提交者 日期已解决平均奖励
分数为 46 项任务上的平均奖励(错误 = 0;奖励 ≥ 0.95 记为解决)。 种子条目是我们的 Terminus-2 基线;榜单会随社区提交而增长。

提交一次运行

与 Terminal-Bench 2 相同的流程——每项任务跑一次,然后提交一个 pull request。

在用 AI 编程智能体?把它指向我们的 智能体技能, 你的智能体就能自动运行整套任务、生成 metadata.yaml,并替你提交 pull request。
  1. 1

    运行全部 46 项任务,每项一次

    评测一个模型  ·  参考评测框架

    harbor run -d long-horizon-terminal-bench \
      -a terminus-2 -m "your-provider/your-model" -k 1

    自带你的智能体

    harbor run -d long-horizon-terminal-bench \
      --agent-import-path "path.to.agent:YourAgent" -k 1

    在智能体上用 override_timeout_sec: 5400timeout_multiplier: 1.0 设置 90 分钟上限(与参考配置一致),这样你的运行才能与榜单可比。

  2. 2

    整理作业目录——无需 fork

    LHTB 排行榜是一个 Hugging Face 数据集, 因此无需 fork——PR 会直接推送到仓库上的 refs/pr/N 分支(见第 3 步)。 只需在本地把你的作业文件夹放到 submissions/long-horizon-terminal-bench/1.0/<agent>__<model>/ 下, 并附上一个 metadata.yaml

    提交目录结构

    submissions/long-horizon-terminal-bench/1.0/
      terminus-2__your-model/
        metadata.yaml
          <job-folder>/
          config.json
          <trial-1>/result.json   # 每项任务 1 次,附带运行产物

    metadata.yaml

    agent: terminus-2
    model: your-provider/your-model
    reasoning_effort: default             # 实际使用的推理档位:minimal/low/medium/high、adaptive、off 或 "default"
    organization: Your Org
    repo: https://github.com/your/agent   # 可选
    docs: https://.../model-card          # 可选
  3. 3

    提交一个 pull request——无需 fork

    Hugging Face CLI 会把你的文件夹上传到新的 refs/pr/N 分支并一步开好 PR (也可在数据集页面用Community → New pull request)。

    上传并开 PR  ·  无需 fork

    pip install -U huggingface_hub && hf auth login
    hf upload IntelligenceLab/LHTB-leaderboard \
      submissions/long-horizon-terminal-bench/1.0/terminus-2__your-model \
      submissions/long-horizon-terminal-bench/1.0/terminus-2__your-model \
      --repo-type dataset --create-pr

    我们的机器人会自动校验提交并对任何错误留言。通过后,维护者会审查轨迹并合并—— 随后你的运行会被导入榜单,并带上一个 已验证 徽章。

校验规则。每项任务统一 90 分钟智能体预算(override_timeout_sec = 5400, 即所有榜单基线所用的统一预算)· timeout_multiplier = 1.0 · 每项任务一次(-k 1)· 标记了 continue_until_timeout 的任务会在 90 分钟窗口内持续尝试 · 不得覆盖 CPU / 内存 / 存储 · 每一次运行都要有一份有效的 result.json 及运行产物 · 智能体不得访问 LHTB 网站或仓库(奖励作弊)。出错的运行记 0 分。

想看看这些基线背后的完整分析——任务如何构建、如何打分,以及当今前沿在何处耗尽后劲? 阅读博客 →