你好,非常感谢提供强大的模型, 我有一个小问题,希望得到你们的帮助, 是否有相关的sample代码可以将该模型发布成openai 适配的api形式? 另外是否未来支持vllm的集成?期待你们的回复。感谢
您好,感谢关注
关于api 请查阅github issue #119
我们正在对vllm进行适配
· Sign up or log in to comment