探索AI代理开发中的上下文工程


达里乌斯·巴鲁(Darius Baruo)
7月2日,2025年17:23

通过策略诸如写作,选择,压缩和隔离上下文等策略,通过优化信息管理来发现上下文工程如何改变AI代理的开发。




在不断发展的人工智能景观中,上下文工程正在成为提高AI代理的性能和效率的关键实践。根据Langchain博客的说法,该学科涉及AI代理的上下文窗口中信息的战略管理,类似于计算机的RAM,该窗口是语言模型的工作记忆。目的是通过在代理任务执行的每个步骤中用最相关的数据填充上下文窗口来优化上下文窗口。

上下文工程的艺术和科学

上下文工程对于人工智能代理人,通过利用诸如写作,选择,压缩和隔离上下文等策略来有效执行任务至关重要。这种方法被比喻为策划适合CPU RAM的数据,以确保可用于下一步的正确信息。 Andrej Karpathy强调了这是艺术与科学的微妙平衡,重点是提供决策的必要背景。

有效背景管理的策略

为了管理使用大语言模型(LLM)构建应用程序的各种上下文,采用了不同的策略:

  • 指示: 这包括指导代理行动的提示,记忆和工具描述。
  • 知识: 包括事实和记忆,这些事实和记忆为代理人的决定提供了信息。
  • 工具: 来自影响代理下一步的工具调用的反馈。

AI代理的上下文工程

AI代理人日益增长的复杂性需要强大的上下文管理策略。随着对代理商的兴趣的增长,这些实体经常与长期运行的任务交织在一起的LLM调用和工具调用。但是,这可能导致过多的令牌使用情况,可能超过上下文窗口的能力并影响性能。因此,有效的上下文工程至关重要,因为它被认为是工程师建立AI代理的主要责任。

实施上下文工程技术

上下文工程的常见策略包括:

  • 写作上下文: 这涉及在上下文窗口之外保存信息,例如使用SCRATCHPADS或内存系统,以保留扩展任务的关键数据。
  • 选择上下文: 代理需要在适当的时间选择性地将相关信息选择为上下文窗口,通常会利用工具和记忆。
  • 压缩上下文: 摘要和修剪是用于管理广泛相互作用并减少令牌用法的技术。
  • 隔离上下文: 这涉及跨子代理或环境之间的划分信息,从而可以专门处理不同的任务组件。

结论

随着AI代理商继续前进,掌握上下文工程变得越来越重要。通过在代理的上下文窗口中有效管理数据,开发人员可以增强这些系统的功能和效率。 Langgraph和Langsmith等工具有助于实施和测试这些策略,从而通过连续反馈循环确保最佳性能。

图像来源:Shutterstock


(tagstotranslate)AI(T)加密(T)区块链(T)新闻



关键词:

探索AI代理开发中的上下文工程
Comments (0)
Add Comment