开放权重模型在 Agent 任务中占比快速上升

核心观点

开放权重模型与闭源模型的性能差距正在缩小，因此在 agent 软件栈中占比增加。

摘要

Together AI 分享了 Yogish Baliga 的观点。开放权重模型现在可以处理大部分 agent 日常任务。在一些工作流中，通过多次推理，开放权重模型甚至能超过闭源模型。Vercel AI Gateway 数据显示，开放权重模型在 agent 工作负载中的占比 13 周内从 30% 升至 78%。

分析

这意味着竞争从单次 benchmark 分数转向成本、延迟和在重试、工具调用中的稳定性。

多轮推理对开放权重模型有利。开发者能多跑几次来优化结果，还能控制部署和成本。Gateway 让切换模型更容易，只改配置就行。

所以常规 agent 工作负载下，闭源模型定价面临压力。但前沿研究和单次高性能需求仍偏好闭源。

注意，这里说的是开放权重，不是开放数据或代码。开放权重只是允许部署使用，但模型不一定能完全复现。

影响评估

• 重要性：高
• 类别：行业趋势、技术洞察、开源

Verdict: 对常规 agent 工作负载，观望已晚。能把开放权重模型整合进多轮推理、路由和工具调用的构建者和基础设施商更有优势，而不是依赖闭源模型的持有者。