模型可能生成不符合预期的参数,例如把"下周二"而非标准日期格式传入。所有工具参数都应视为不可信输入,在执行前进行校验与清洗。
模糊或雷同的描述会让模型选错工具或填错字段。工具描述质量是调用成功率的第一杠杆,需要明确功能边界与参数约束。
每次工具调用都是一次"模型 → 代码 → 外部系统 → 代码 → 模型"的往返,多工具、多轮任务会显著拉长时延。应优先设计"一次返回充分数据"的工具,减少无意义往返。
在依赖提示词工程的降级方案中,格式稳定性较差,需要大量容错;即便原生调用,也应在应用层保留解析兜底与重试逻辑。
工具返回的不可信内容可能夹带指令,诱导模型执行非预期动作。应只消费可信工具的结果,并在发送邮件、下单、支付等具有现实影响的操作前加入用户确认环节。