按需注入工具定义

按需注入工具定义 search_tools 返回候选工具后，由你的应用把对应工具的完整声明，通过一条携带 tools 的 system 消息插入 messages。工具从该消息所在的位置开始对模型可见： { "role": "system", "tools": [ { "type": "function", "function": { "name": "create_github_pr", "description": "在指定仓库创建 Pull Request", "parameters": { "type": "object", "properties": {} } } } ] } 动态声明的格式与顶层 tools 完全一致，不需要维护两套 schema；注入的工具与顶层声明的全局工具并存。动态工具声明按请求生效，不会被服务端记住。下一轮可以继续携带原声明，让工具保持可用并复用前缀缓存；也可以移除该声明。如果工具未在其他位置声明，模型将无法调用这个工具，同时后续前缀可能无法命中缓存。完整用法见动态加载工具。 当前一个请求的 prompt tokens 大于 256 时，新的请求才能命中前缀缓存；当前一个请求的 prompt tokens 小于 256 时，请求不会被缓存而是被丢弃。详见上下文缓存。