关于openai compatible api

#41
by weiminw - opened

你好,非常感谢提供强大的模型, 我有一个小问题,希望得到你们的帮助, 是否有相关的sample代码可以将该模型发布成openai 适配的api形式? 另外是否未来支持vllm的集成?期待你们的回复。感谢

OpenBMB org

您好,感谢关注

  1. 关于api 请查阅github issue #119

  2. 我们正在对vllm进行适配

Sign up or log in to comment