Anthropic 揭示了 AI 代理开发背后的 Claude Code 工具设计理念

Anthropic 揭开了其工程团队如何为该公司的人工智能软件开发助手 Claude Code 设计工具的帷幕。 4 月 10 日发布的详细技术分解为构建有效的人工智能代理系统背后的迭代过程提供了罕见的见解。

这家价值 3800 亿美元的人工智能安全公司的方法以工程师 Thariq Shihipar 所说的“像代理一样看待”为中心——本质上是了解人工智能模型如何感知并与其所提供的工具交互。

AskUserQuestion 的试验和错误

培养克劳德的提问能力经历了三次尝试。该团队首先尝试向现有工具添加一个问题参数，当用户答案与生成的计划冲突时，这会混淆模型。使用修改后的降价格式的第二次尝试被证明是不可靠的——克劳德会“附加额外的句子，删除选项，或者完全放弃结构”。

获胜的解决方案：专用的 AskUserQuestion 工具，可以触发模式界面，阻止代理循环，直到用户做出响应。正如 Shihipar 指出的那样，结构化方法之所以有效，是因为“如果 Claude 不明白如何调用它，那么即使是设计最好的工具也无法发挥作用。”

当工具成为限制

该团队在任务管理方面的经验揭示了模型改进如何使现有工具变得过时。 Claude Code 的早期版本使用 TodoWrite 工具，每五轮就会发出一次系统提醒，以保持模型走上正轨。

随着模型的改进，这变得适得其反。克劳德开始将待办事项列表视为一成不变，而不是在情况发生变化时进行调整。解决方案是用更灵活的任务工具替换 TodoWrite，该工具支持依赖性和跨子代理通信。

从 RAG 到自主搜索

也许最重要的转变涉及克劳德如何寻找背景。最初的版本使用检索增强生成（RAG）、预索引代码库并向 Claude 提供相关片段。虽然速度很快，但这种方法很脆弱，意味着克劳德“被赋予了这个上下文，而不是找到上下文本身”。

给 Claude 一个 Grep 工具完全改变了这种动态。与允许递归文件发现的代理技能相结合，该模型从无法构建自己的上下文变为执行“跨多个文件层的嵌套搜索以找到所需的确切上下文”。

20 个工具的上限

Claude Code 目前使用大约 20 个工具，而 Anthropic 对添加工具保持着很高的标准。每个新工具都代表模型要评估的另一个决策点。

当用户需要 Claude 回答有关 Claude Code 本身的问题时，团队避免添加另一个工具。相反，他们构建了一个专门的子代理，可以在自己的上下文中搜索文档并仅返回答案，从而保持主代理的上下文干净。

这种“渐进式披露”方法——让代理逐步发现相关信息——已经成为 Anthropic 设计理念的核心。它呼应了该公司更广泛地关注创建有用的人工智能系统，但又不会变得笨拙或不可预测。

对于构建自己的代理系统的开发人员来说，要点很明确：随着模型功能的发展，工具设计需要不断迭代。今天对人工智能有帮助的东西明天可能会限制它。

图片来源：Shutterstock