avatar

Box 用 LangChain Deep Agents 中间件让企业 AI 跑得更稳

中间件靠并行引用和 prompt 缓存,还有长上下文管理,让 agent 更快更可靠

avatar@LangChain
2 days ago

TL;DR:

  • 中间件并行处理引用,还在多轮聊天里缓存 prompt
  • 能管 170k tokens 以上的上下文,同时把成本控住
  • 企业现在更看重 agent 编排,而不是只堆更大模型

重点内容

LangChain 最近分享了 Box 怎么把 Deep Agents 中间件用在 Box Agent 上。关键不是换个更大模型,而是通过更稳的 agent 编排,让它在真实企业场景里响应更快、输出更可靠。

摘要

这套中间件主要解决企业级 agent 的几个实际问题:

  • 并行处理引用和来源标注,减少检索和生成带来的延迟
  • 在连续对话中缓存 prompt,省去重复计算,改善成本和速度
  • 管理超过 170k tokens 的超长上下文,避免单纯依赖大窗口导致成本失控

对企业 AI 来说,真正影响落地的往往不是模型参数,而是上下文、记忆、引用、成本和延迟这些系统层面的编排。

分析

Box 这类内容协作产品对 agent 的要求很实际:回答要快、结论要稳,还必须给出可追溯来源。所以在生产环境里,光靠模型原生能力不够,还需要额外中间件来处理。

| 问题 | Deep Agents 中间件的作用 | 企业侧价值 | |---|---|---| | 引用生成慢、链路复杂 | 并行运行 citations | 缩短响应时间,提升可验证性 | | 多轮对话重复消耗 prompt | 缓存 ongoing chats 中的 prompt | 降低成本,稳定体验 | | 上下文超过 170k tokens | 主动管理长上下文 | 避免成本膨胀和性能不可控 | | 业务任务依赖记忆与来源 | 维护上下文和引用链路 | 更适合真实企业工作流 |

企业 agent 的瓶颈正在从模型大小转向系统编排。对内容类工具尤其明显,用户不只要答案,还要速度、来源、连续记忆和可控成本。

这也说明 LangChain 的工具链已经在实际企业 agent 部署中承担了稳定性和成本控制的角色。

影响评估

重要性:中等

相关方向:开发者工具、行业趋势、技术洞察

Verdict: 对企业 AI 叙事来说,普通交易者并不早,长期持有者也不是主要受益者;真正占优的是正在构建企业级 agent 工作流的 builder 和押注 AI 基础设施采用率的基金。