Gemini Pro · Humanity's Last Exam · 2,500-question benchmark · 历代记录

按发布时间查看 Gemini Pro 的 3 次发布在 Humanity's Last Exam · 2,500-question benchmark 的成绩、配置与披露。

仅为直接前代间的唯一、有效精确值计算差值,要求单位、指标与明确记录的配置和条件一致。

Gemini 2.5 Pro (GA)

· 本次发布有 1 条成绩记录,含 1 条精确值(可含历史记录)

Gemini 2.5 Pro (GA) · Humanity's Last Exam 成绩与配置
指标与成绩配置与评测条件出处
Accuracy21.6%原文 21.6% · 单位 %
公布 未确认
Gemini 2.5 Pro stable API
设置
AI Studio API model id gemini-2.5-pro; default sampling settings. Technical report states Gemini scores are pass@1 and single-attempt unless specified. Aider Polyglot averages 3 trials; SWE-bench uses the internal agentic harness; Vibe-Eval uses Gemini as judge.
未知项
Thinking budget and any non-default settings for individual evaluations are not stated except where noted in each protocol.
工具
禁止工具
推理预算
未记录
框架
未记录
协议
No-tools variant; Scale leaderboard.
条件
Gemini pass@1; single attempt unless stated otherwise.
在排名中查看此成绩

Gemini 3 Pro

· 本次发布有 2 条成绩记录,含 2 条精确值(可含历史记录)

与直接前代的记录缺少满足差值计算的同条件依据。

Gemini 3 Pro · Humanity's Last Exam 成绩与配置
指标与成绩配置与评测条件出处
Accuracy37.5%原文 37.5% · 单位 %
公布 未确认
Gemini 3 Pro API default
设置
Gemini API model id gemini-3-pro-preview; default sampling settings. Gemini results are pass@1 and single-attempt unless specified; smaller benchmarks average multiple trials.
未知项
The evaluation table does not specify a thinking budget or inference-time compute setting.
工具
禁止工具
推理预算
未记录
框架
未记录
协议
No tools; academic reasoning full set.
条件
Gemini API model gemini-3-pro-preview; default sampling settings; pass@1 unless stated otherwise.
在排名中查看此成绩
Accuracy45.8%原文 45.8% · 单位 %
公布 未确认
Gemini 3 Pro API default
设置
Gemini API model id gemini-3-pro-preview; default sampling settings. Gemini results are pass@1 and single-attempt unless specified; smaller benchmarks average multiple trials.
未知项
The evaluation table does not specify a thinking budget or inference-time compute setting.
工具
允许工具
推理预算
未记录
框架
未记录
协议
Search with blocklist and code execution.
条件
Gemini API model gemini-3-pro-preview; pass@1 unless stated otherwise.
在排名中查看此成绩

Gemini 3.1 Pro

· 本次发布有 2 条成绩记录,含 2 条精确值(可含历史记录)

与直接前代的记录缺少满足差值计算的同条件依据。

Gemini 3.1 Pro · Humanity's Last Exam 成绩与配置
指标与成绩配置与评测条件出处
Accuracy44.4%原文 44.4% · 单位 %
公布 未确认
Gemini 3.1 Pro Thinking (High)
设置
Gemini API model id gemini-3.1-pro-preview; default sampling settings; evaluation table column specifies Thinking (High). All scores are pass@1 except where noted.
未知项
Exact thinking budget and sampling parameters are not listed.
工具
禁止工具
推理预算
high
框架
未记录
协议
Full set (text + multimodal); no tools; Gemini 3.1 Pro Thinking (High).
条件
Gemini API model gemini-3.1-pro-preview; default sampling settings unless stated otherwise; pass@1.
在排名中查看此成绩
Accuracy51.4%原文 51.4% · 单位 %
公布 未确认
Gemini 3.1 Pro Thinking (High)
设置
Gemini API model id gemini-3.1-pro-preview; default sampling settings; evaluation table column specifies Thinking (High). All scores are pass@1 except where noted.
未知项
Exact thinking budget and sampling parameters are not listed.
工具
允许工具
推理预算
high
框架
未记录
协议
Full set (text + multimodal); Search (blocklist) + Code; Gemini 3.1 Pro Thinking (High).
条件
Gemini API model gemini-3.1-pro-preview; pass@1 unless otherwise stated.
在排名中查看此成绩