Claude Sonnet 4.6 · SWE-bench Verified · Verified subset (500 problems) · 成绩与配置

Claude Sonnet 4.6 的 SWE-bench Verified · Verified subset (500 problems) 记录。本次发布有 2 条成绩记录,含 2 条精确值(可含历史记录),附 3 条来源定位。

成绩与评测条件

Claude Sonnet 4.6 · SWE-bench Verified 成绩与配置
指标与成绩配置与评测条件出处
Pass rate79.6%原文 79.6% · 单位 %
公布 未确认

结果冲突待核对,精确排名不采用。

Adaptive thinking, max effort
设置
Adaptive thinking enabled; max effort; default temperature and top_p unless an evaluation specifies otherwise.
未知项
Context window is evaluation-dependent; Table 2.1.A states it does not exceed 1M tokens.
工具
工具条件未记录
推理预算
max
框架
未记录
协议
SWE-bench Verified; 500 verified problems.
条件
Main summary and card report 79.6%. Trial-count conflict: Table 2.1.A footnote says 25 trials, while §2.2 says 10 trials. Thinking blocks included in sampling results.
在排名中查看此成绩
Pass rate80.2%原文 80.2% · 单位 %
公布 未确认
Adaptive thinking, max effort
设置
Adaptive thinking enabled; max effort; default temperature and top_p unless an evaluation specifies otherwise.
未知项
Context window is evaluation-dependent; Table 2.1.A states it does not exceed 1M tokens.
工具
允许工具
推理预算
max
框架
未记录
协议
SWE-bench Verified with a prompt modification.
条件
Prompt asks for extensive tool use and testing; separate modified-prompt result, not the default run.
在排名中查看此成绩

出处与披露

测试版本与指标

别名 SWE-bench Verified

  • Pass rate · % · 越高越好