Claude Sonnet · SWE-bench Verified · Verified subset (500 problems) · 历代记录

按发布时间查看 Claude Sonnet 的 2 次发布在 SWE-bench Verified · Verified subset (500 problems) 的成绩、配置与披露。

仅为直接前代间的唯一、有效精确值计算差值,要求单位、指标与明确记录的配置和条件一致。

Claude Sonnet 4.6

· 本次发布有 2 条成绩记录,含 2 条精确值(可含历史记录)

Claude Sonnet 4.6 · SWE-bench Verified 成绩与配置
指标与成绩配置与评测条件出处
Pass rate79.6%原文 79.6% · 单位 %
公布 未确认

结果冲突待核对,精确排名不采用。

Adaptive thinking, max effort
设置
Adaptive thinking enabled; max effort; default temperature and top_p unless an evaluation specifies otherwise.
未知项
Context window is evaluation-dependent; Table 2.1.A states it does not exceed 1M tokens.
工具
工具条件未记录
推理预算
max
框架
未记录
协议
SWE-bench Verified; 500 verified problems.
条件
Main summary and card report 79.6%. Trial-count conflict: Table 2.1.A footnote says 25 trials, while §2.2 says 10 trials. Thinking blocks included in sampling results.
在排名中查看此成绩
Pass rate80.2%原文 80.2% · 单位 %
公布 未确认
Adaptive thinking, max effort
设置
Adaptive thinking enabled; max effort; default temperature and top_p unless an evaluation specifies otherwise.
未知项
Context window is evaluation-dependent; Table 2.1.A states it does not exceed 1M tokens.
工具
允许工具
推理预算
max
框架
未记录
协议
SWE-bench Verified with a prompt modification.
条件
Prompt asks for extensive tool use and testing; separate modified-prompt result, not the default run.
在排名中查看此成绩

Claude Sonnet 5

· 本次发布有 1 条成绩记录,含 1 条精确值(可含历史记录)

与直接前代的记录缺少满足差值计算的同条件依据。

Claude Sonnet 5 · SWE-bench Verified 成绩与配置
指标与成绩配置与评测条件出处
Pass rate85.2%原文 85.2% · 单位 %
公布 未确认
Standard configuration: adaptive thinking, max effort
设置
Adaptive thinking at max effort; default temperature and top_p; five-trial averages unless otherwise stated.
未知项
Context-window size is evaluation-dependent; standard configuration is 1M tokens.
工具
工具条件未记录
推理预算
max
框架
未记录
协议
SWE-bench Verified 500-problem subset; five trials.
条件
All variants use the standard configuration; thinking blocks included in sampling results.
在排名中查看此成绩