Claude Fable 5.2 · ProgramBench · 166 个保留的 golden tasks;架构与时限按协议区分 · 成绩与配置

Claude Fable 5.2 的 ProgramBench · 166 个保留的 golden tasks;架构与时限按协议区分 记录。本次发布有 2 条成绩记录,含 2 条精确值(可含历史记录),附 1 条来源定位。

成绩与评测条件

Claude Fable 5.2 · ProgramBench 成绩与配置
指标与成绩配置与评测条件出处
Hidden test pass rate85.6%原文 85.6% · 单位 %
公布 未确认
ProgramBench without remaining-context display
设置
Claude Fable 5.2;single-agent mini-swe-agent harness;1M-token context;remaining context tokens are not shown;max effort。
未知项
未另记
工具
工具条件未记录
推理预算
max
框架
single-agent mini-SWE-agent harness
协议
ProgramBench 166-task golden subset; single-agent mini-swe-agent harness; no internet/decompilation; hidden-test pass rate.
条件
1M-token context with no remaining-context indicator; max effort.
Hidden test pass rate91.6%原文 91.6% · 单位 %
公布 未确认
ProgramBench with remaining-context display
设置
Claude Fable 5.2;single-agent mini-swe-agent harness;1M-token context;remaining context tokens are shown after each step;max effort。
未知项
未另记
工具
工具条件未记录
推理预算
max
框架
single-agent mini-SWE-agent harness
协议
ProgramBench 166-task golden subset; single-agent mini-swe-agent harness; no internet/decompilation; hidden-test pass rate.
条件
1M-token context with remaining-context tokens shown after each step; max effort.

出处与披露

测试版本与指标

别名 ProgramBench、Multi-Agent ProgramBench

  • Hidden test pass rate · % · 越高越好
  • Score · 单位未标注 · 越高越好