Claude Opus 5 · ProgramBench · 166 个保留的 golden tasks;架构与时限按协议区分 · 成绩与配置

Claude Opus 5 的 ProgramBench · 166 个保留的 golden tasks;架构与时限按协议区分 记录。本次发布有 2 条成绩记录,含 2 条精确值(可含历史记录),附 1 条来源定位。

成绩与评测条件

Claude Opus 5 · ProgramBench 成绩与配置
指标与成绩配置与评测条件出处
Hidden test pass rate83%原文 83% · 单位 %
公布 未确认
ProgramBench · single agent
设置
Card-wide default max effort; one agent; 166 retained golden tasks; five sequential episodes, each with a fresh context budget up to 1M tokens; no internet or decompilation tools.
未知项
未另记
工具
工具条件未记录
推理预算
max
框架
未记录
协议
ProgramBench; 166 golden tasks; hidden-test pass rate after episode 1.
条件
Single-agent; episode 1; each episode has a fresh context budget up to 1M tokens; max effort by card-wide default.
在排名中查看此成绩
Hidden test pass rate93%原文 93% · 单位 %
公布 未确认
ProgramBench · single agent
设置
Card-wide default max effort; one agent; 166 retained golden tasks; five sequential episodes, each with a fresh context budget up to 1M tokens; no internet or decompilation tools.
未知项
未另记
工具
工具条件未记录
推理预算
max
框架
未记录
协议
ProgramBench; 166 golden tasks; hidden-test pass rate after episode 5.
条件
Single-agent; five sequential episodes continue from the previous codebase; fresh context budget up to 1M tokens per episode; max effort by card-wide default.
在排名中查看此成绩

出处与披露

测试版本与指标

别名 ProgramBench、Multi-Agent ProgramBench

  • Hidden test pass rate · % · 越高越好
  • Score · 单位未标注 · 越高越好