DeepSeek V4 Pro — Proxy vs Native 对比报告

MBPP EvalPlus — 代理 API vs 原生 API 性能对比

📊 关键指标对比

Native Base pass@1
78.8%
vs Proxy 75.7% (+3.2%)
Native Plus pass@1
68.8%
vs Proxy 66.1% (+2.6%)
Native 空白率
13.2%
vs Proxy 16.4% (-12)

详细对比表

指标Proxy (代理)Native (原生)差异
Base pass@1 75.7% (286/378) 78.8% (298/378) +3.2%
Plus pass@1 66.1% (250/378) 68.8% (260/378) +2.6%
空白率 16.4% (62/378) 13.2% (50/378) 3.2pp
Both Pass (均通过) 249 258 +9
Base Only (仅Base) 37 40 +3
Both Fail (均失败) 91 78 -13
Plus Only (仅Plus) 1 2 +1
Base→Plus 衰减 (pp) 9.5pp 10.1pp +0.5pp

通过率可视化对比

Base pass@1

Proxy
75.7%
Native
78.8%

Plus pass@1

Proxy
66.1%
Native
68.8%

🔍 分析

Native API 全面优于 Proxy API
原生 API 在所有关键指标上均优于代理 API:Base 通过率高出 3.2 个百分点, Plus 通过率高出 2.6 个百分点, 空白回答率降低 3.2 个百分点。 这表明代理 API 可能在 请求格式、系统提示或模型路由方面存在差异,导致性能下降。
空白回答是主要差异来源
Native 有 50 个空白回答,Proxy 有 62 个空白回答(减少 12 个)。 排除空白答案后,Native 有效通过率为 Base 90.9% / Plus 79.3%, 而 Proxy 为 Base 90.5% / Plus 79.1%。
Both Pass 任务增加
Native 有 258 个任务同时通过 Base 和 Plus(vs Proxy 的 249), 增加了 9 个任务。 Both Fail 从 91 降至 78,减少了 13 个。

💡 结论

建议
  • 优先使用原生 API:Native API 在所有指标上表现更优,应作为首选方案
  • 调查代理差异:代理 API 空白率高出 3.2pp,需要排查代理层配置
  • 统一评估标准:建议后续所有基准测试优先使用原生 API 以获得可对比的结果