Claude Sonnet · ProgramBench · 166 个保留的 golden tasks;架构与时限按协议区分 · 历代记录

按发布时间查看 Claude Sonnet 的 2 次发布在 ProgramBench · 166 个保留的 golden tasks;架构与时限按协议区分 的成绩、配置与披露。

仅为直接前代间的唯一、有效精确值计算差值,要求单位、指标与明确记录的配置和条件一致。

Claude Sonnet 5

· 本次发布有 1 条成绩记录,暂无精确值

Claude Sonnet 5 · ProgramBench 成绩与配置
指标与成绩配置与评测条件出处
Hidden test pass rate76–86%原文 76–86% · 单位 %
公布 未确认

原文未提供可确认的精确值。

Standard configuration: adaptive thinking, max effort
设置
Adaptive thinking at max effort; default temperature and top_p; five-trial averages unless otherwise stated.
未知项
Context-window size is evaluation-dependent; standard configuration is 1M tokens.
工具
工具条件未记录
推理预算
max
框架
mini-SWE-agent harness
协议
166 retained tasks; five episodes, each continuing the prior codebase with a fresh context budget up to 1M tokens.
条件
Range reported across tasks/episodes, not a single exact scalar; mini-swe-agent harness without upstream six-hour limit.
在排名中查看此成绩

Claude Sonnet 5.5

· 本次发布有 1 条成绩记录,含 1 条精确值(可含历史记录)

与直接前代的记录缺少满足差值计算的同条件依据。

Claude Sonnet 5.5 · ProgramBench 成绩与配置
指标与成绩配置与评测条件出处
Hidden test pass rate79.7%原文 79.7% · 单位 %
公布 未确认
Adaptive thinking, max effort
设置
Adaptive thinking enabled; max effort.
未知项
Sampling settings may vary by benchmark; see each result.conditions.
工具
工具条件未记录
推理预算
max
框架
未记录
协议
ProgramBench, 166 tasks after excluding 34 flaky reference binaries; hidden-test pass rate over five episodes.
条件
mini-swe-agent; no six-hour upstream time limit; fresh context budget up to 1M tokens per episode.
在排名中查看此成绩