Claude Opus · AutomationBench · Zapier 私有 early-access set;版本未注明 · 历代记录

按发布时间查看 Claude Opus 的 2 次发布在 AutomationBench · Zapier 私有 early-access set;版本未注明 的成绩、配置与披露。

仅为直接前代间的唯一、有效精确值计算差值,要求单位、指标与明确记录的配置和条件一致。

Claude Opus 5

· 本次发布有 2 条成绩记录,含 2 条精确值(可含历史记录)

Claude Opus 5 · AutomationBench 成绩与配置
指标与成绩配置与评测条件出处
Pass rate26%原文 26.0% · 单位 %
公布 未确认
AutomationBench · max
设置
Zapier private held-out evaluation set; max effort; benchmark version and task count not stated.
未知项
未另记
工具
工具条件未记录
推理预算
max
框架
未记录
协议
Zapier AutomationBench private held-out leaderboard; pass rate.
条件
26.0% at max effort; version/task release not stated; separate from the medium-effort 24% run.
在排名中查看此成绩
Pass rate24%原文 24% · 单位 %
公布 未确认
AutomationBench · medium
设置
Zapier private held-out evaluation set; medium effort; result reports $0.89 per task.
未知项
未另记
工具
工具条件未记录
推理预算
medium
框架
未记录
协议
Zapier AutomationBench private held-out leaderboard; pass rate.
条件
Medium effort; reported cost $0.89/task; do not merge with max-effort 26.0%.
在排名中查看此成绩

Claude Opus 5.5

· 本次发布有 1 条成绩记录,含 1 条精确值(可含历史记录)

与直接前代的记录缺少满足差值计算的同条件依据。

Claude Opus 5.5 · AutomationBench 成绩与配置
指标与成绩配置与评测条件出处
Pass rate40%原文 40.0% · 单位 %
公布 未确认
Adaptive Max
设置
官方主表标准配置为 adaptive thinking/max effort、默认 temperature/top_p;具体工具、safeguards、fallback 与运行数按各评测章节记录,不将其一概视为生产 safeguards enabled。
未知项
表格没有为每个 benchmark 单独列出采样设置和运行数;章节明确列出的差异优先。
工具
工具条件未记录
推理预算
max
框架
未记录
协议
Zapier AutomationBench;版本未注明,early-access evaluation。
条件
Zapier 无 fallback model;safeguard intervention 记失败。 Source-wide conditions: Private held-out Zapier evaluation. The existing result is retained; this System Card evidence does not specify a benchmark release for the 40.0% score.
在排名中查看此成绩