Claude Fable · ProgramBench · 166 个保留的 golden tasks;架构与时限按协议区分 · 历代记录

按发布时间查看 Claude Fable 的 2 次发布在 ProgramBench · 166 个保留的 golden tasks;架构与时限按协议区分 的成绩、配置与披露。

仅为直接前代间的唯一、有效精确值计算差值,要求单位、指标与明确记录的配置和条件一致。

Claude Fable 5.1

· 本次发布有 1 条成绩记录,含 1 条精确值(可含历史记录)

Claude Fable 5.1 · ProgramBench 成绩与配置
指标与成绩配置与评测条件出处
Hidden test pass rate87.6%原文 87.6% · 单位 %
公布 未确认
Adaptive Max
设置
Claude Fable 5.1;CursorBench 主文引述明确为 max effort;后续 System Card 对 OSWorld/BenchCAD/OfficeQA 对照结果亦标 max effort。
未知项
不同 benchmark 的具体执行细节分别见来源章节;部分测试的采样参数或运行数未单独公布。
工具
工具条件未记录
推理预算
max
框架
mini-SWE-agent harness
协议
ProgramBench; 166 golden tasks after excluding 34 tasks with flaky reference binaries; same mini-swe-agent harness without its six-hour time limit.
条件
Single-agent result; multi-agent curves are nonstandard harness experiments and are not ranked.
在排名中查看此成绩

Claude Fable 5.2

· 本次发布有 2 条成绩记录,含 2 条精确值(可含历史记录)

与直接前代的记录缺少满足差值计算的同条件依据。

Claude Fable 5.2 · ProgramBench 成绩与配置
指标与成绩配置与评测条件出处
Hidden test pass rate85.6%原文 85.6% · 单位 %
公布 未确认
ProgramBench without remaining-context display
设置
Claude Fable 5.2;single-agent mini-swe-agent harness;1M-token context;remaining context tokens are not shown;max effort。
未知项
未另记
工具
工具条件未记录
推理预算
max
框架
single-agent mini-SWE-agent harness
协议
ProgramBench 166-task golden subset; single-agent mini-swe-agent harness; no internet/decompilation; hidden-test pass rate.
条件
1M-token context with no remaining-context indicator; max effort.
Hidden test pass rate91.6%原文 91.6% · 单位 %
公布 未确认
ProgramBench with remaining-context display
设置
Claude Fable 5.2;single-agent mini-swe-agent harness;1M-token context;remaining context tokens are shown after each step;max effort。
未知项
未另记
工具
工具条件未记录
推理预算
max
框架
single-agent mini-SWE-agent harness
协议
ProgramBench 166-task golden subset; single-agent mini-swe-agent harness; no internet/decompilation; hidden-test pass rate.
条件
1M-token context with remaining-context tokens shown after each step; max effort.