vllm 部署的 glm4 能使用 tool call 吗?

#84
by hiert - opened

vllm 部署的 glm4 能使用 tool call 吗?当前只看到 qwen 2.5 有 tool call 的功能

同问,在另一个帖子看到说有支持vllm的方案,但是我没有搜到

Knowledge Engineering Group (KEG) & Data Mining at Tsinghua University org

vLLM支持的是chat,不是FC

Sign up or log in to comment