content
01、Function Calling 的原理是什么
老王开门见山:“很多人觉得大模型能‘调用工具’很神奇,你给我讲讲 Function Calling 到底是怎么回事。”
Function Calling 是一个协议约定。
客户端在请求里声明有哪些工具可以用,包括工具名、功能描述、参数的 JSON Schema。LLM 在生成响应的时候,如果判断当前任务需要工具辅助,它会在响应里输出一段 JSON,告诉客户端“我想调用这个工具,参数是这些”。然后客户端拿到这段 JSON,自己去执行对应的逻辑,把执行结果包装成 tool message 塞回对话历史,再请求一次 LLM,LLM 看到结果继续推理。
大约 10 分钟
