首页
学习
活动
专区
圈层
工具
发布
技术百科首页 >结构化工具调用 >当可用工具数量很多时,结构化工具调用如何做工具检索与选择?

当可用工具数量很多时,结构化工具调用如何做工具检索与选择?

词条归属:结构化工具调用

1. 基于相似度的工具检索

当工具规模膨胀到数百甚至上千个时,全部塞入上下文既不经济也不利于模型决策。常见做法是用嵌入向量做相似度检索,先筛选出与当前请求最相关的若干工具再传给模型。Anthropic 于 2025 年在 API 中推出 Tool Search 能力,正是面向"成千上万个工具"的生产级部署场景,用于高效筛选工具并降低复杂 Agent 工作流的延迟。

2. 分层与分组暴露

可将工具按业务域分组,先由模型选择领域,再展开该领域下的具体工具;或通过元数据标注工具的能力标签,实现按需暴露,避免噪声干扰。

3. 描述质量的二次优化

检索只解决"该给模型看哪些工具",而"模型能否选对"仍取决于描述质量。在工具数量多时,更需要为相邻工具写出边界清晰、彼此可区分的描述,减少歧义。

相关文章
AI应用开发需要啃底层吗?个人AI应用开发学习经验之谈
很久没更新了,感觉更新中间件使用和八股文细节也没太多意义。加上最近几年AI技术栈膨胀的很快,什么提示词工程、MCP、Skills新名词一天一个,新模型、新框架、新协议、新概念一波接一波,信息密度高到足以让很多开发者在真正动手之前,先陷入学习焦虑:是不是得先补完 Transformer、注意力机制、训练流程、微调算法、向量数据库原理,才能谈“做 AI 应用”?
程序员唱见
2026-03-30
4070
别再让 Claude Code 全量读代码了,搭一套 MCP 检索层才是大代码库正解
上个月我做了一个实验:把一个 180K 行的 Spring Boot 单体代码库接入 Claude Code,让它做一次全量架构分析。
码哥字节
2026-05-22
6580
大模型Agent落地的工程现实:一个Java老兵的观察与架构实践
很多人对大模型的理解还停留在“一个更聪明的搜索引擎”或者“能聊天的百科全书”。这个认知在生产环境里会出大事。
果酱带你啃AI
2026-07-23
3480
什么是企业Agent母体?从知识库到多Agent协同的企业级AI架构
随着大模型逐渐进入企业业务场景,Agent正在从个人效率工具,逐步演变为企业内部的新型数字化能力。
所兴智能
2026-08-19
2760
大模型应用框架:LangChain与LlamaIndex的对比选择
开发基于大型模型的应用时,选择合适的应用框架不仅能显著提高开发效率,还能增强应用的质量属性。这类似于在Windows上开发传统软件服务时从MFC过渡到.NET Framework,或在Linux服务器端使用Java语言时采用Spring及Spring Boot框架,以及在Web前端开发中选择VUE、React或Angular等多样的框架。面对基于大模型的应用开发,我们应如何挑选合适的应用框架呢?对于两种常见的大模型应用框架——Langchain和LlamaIndex,它们各自拥有独特的特性和适用场景,我们又该如何做出明智的选择呢?
半吊子全栈工匠
2024-07-22
10.4K0
点击加载更多
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档
领券