Claude Opus · SWE-bench Pro · Pro · 历代记录

按发布时间查看 Claude Opus 的 5 次发布在 SWE-bench Pro · Pro 的成绩、配置与披露。

仅为直接前代间的唯一、有效精确值计算差值,要求单位、指标与明确记录的配置和条件一致。

Claude Opus 4.5

· 本次发布有 2 条成绩记录,含 2 条精确值(可含历史记录)

Claude Opus 4.5 · SWE-bench Pro 成绩与配置
指标与成绩配置与评测条件出处
Pass rate51.6%原文 51.60% · 单位 %
公布 未确认
默认 High
设置
64K thinking budget、200K context、默认 high、默认 sampling、5 次独立试验。
未知项
未另记
工具
工具条件未记录
推理预算
high · 思考预算 64K
框架
未记录
协议
SWE-bench Pro, 1,865 problems; average over 5 trials.
条件
64K thinking budget; context and additional settings not separately stated for this row.
在排名中查看此成绩
Pass rate52%原文 52.0% · 单位 %
公布 未确认
SWE-bench 无 thinking budget
设置
发布材料明确说明 SWE-bench Verified 不使用 thinking budget。
未知项
除发布表和脚注外未提取完整测试脚手架细节。
工具
工具条件未记录
推理预算
未记录
框架
未记录
协议
SWE-bench Pro, 1,865 problems; average over 5 trials.
条件
No extended thinking; context not separately stated for this row.
在排名中查看此成绩

Claude Opus 4.7

· 本次发布有 1 条成绩记录,含 1 条精确值(可含历史记录)

Claude Opus 4.7 · SWE-bench Pro 成绩与配置
指标与成绩配置与评测条件出处
Pass rate64.3%原文 64.3% · 单位 %
公布 未确认
发布表报告值
设置
System Card §8.1 standard configuration: adaptive thinking at max effort; default temperature/top_p; averaged over 5 trials. Context sizes are evaluation-dependent and do not exceed 1M tokens; retain all section-specific exceptions on their results.
未知项
Per-benchmark tools, context/token cap, resolution, trial count, harness and other exceptions are recorded on each result when stated.
工具
工具条件未记录
推理预算
max
框架
未记录
协议
SWE-bench Pro。
条件
All SWE-bench variants use the §8.1 standard configuration and average five trials; thinking blocks are included in sampling. The announcement also describes memorization screening and exclusions.
在排名中查看此成绩

Claude Opus 4.8

· 本次发布有 1 条成绩记录,含 1 条精确值(可含历史记录)

与直接前代的记录缺少满足差值计算的同条件依据。

Claude Opus 4.8 · SWE-bench Pro 成绩与配置
指标与成绩配置与评测条件出处
Pass rate69.2%原文 69.2% · 单位 %
公布 未确认
System Card 默认配置
设置
除章节另有说明外,adaptive thinking at max effort,默认 temperature/top_p,平均 5 trials;评测上下文依任务而定且不超过 1M tokens。
未知项
未另记
工具
工具条件未记录
推理预算
max
框架
未记录
协议
SWE-bench Pro; System Card §8.2 reports the result averaged over 5 trials.
条件
Adaptive thinking at max effort with default temperature/top_p; thinking blocks are included in sampled results.
在排名中查看此成绩

Claude Opus 5

· 本次发布有 1 条成绩记录,含 1 条精确值(可含历史记录)

与直接前代的记录缺少满足差值计算的同条件依据。

Claude Opus 5 · SWE-bench Pro 成绩与配置
指标与成绩配置与评测条件出处
Pass rate79.2%原文 79.2% · 单位 %
公布 未确认
Adaptive thinking · max effort (card-wide default)
设置
System Card §8.1 default: adaptive thinking at max effort, default sampling settings (temperature/top_p), averaged over five trials unless otherwise noted; context varies by evaluation and does not exceed 1M tokens.
未知项
Per-benchmark exceptions and harness details are recorded on the relevant configurations/results.
工具
工具条件未记录
推理预算
max
框架
未记录
协议
SWE-bench Pro.
条件
Five-trial average; card-wide default adaptive max effort and default sampling.
在排名中查看此成绩

Claude Opus 5.5

· 本次发布有 1 条成绩记录,含 1 条精确值(可含历史记录)

与直接前代的记录缺少满足差值计算的同条件依据。

Claude Opus 5.5 · SWE-bench Pro 成绩与配置
指标与成绩配置与评测条件出处
Pass rate89.9%原文 89.9% · 单位 %
公布 未确认
System Card max effort (per-result benchmark harnesses)
设置
System Card §8.1 default: adaptive thinking/max effort and default sampling settings unless a section says otherwise. Benchmark tools, evaluator, safeguards, fallback, and repetitions remain per-result conditions; this config represents the stated model effort, not harness equivalence.
未知项
Exact run time is not disclosed.、Per-benchmark tools, safeguards, and repetition counts are specified only where the source states them.
工具
工具条件未记录
推理预算
max
框架
未记录
协议
SWE-bench Pro; five trials averaged.
条件
Active repositories and large multi-file diffs; exact task count and tools are not stated in this section. Source-wide conditions: Each score is averaged over five trials; Multilingual has 300 problems across nine languages.
在排名中查看此成绩