Update README.md
Browse files
README.md
CHANGED
@@ -68,7 +68,7 @@ lmdeploy convert internlm2-chat-7b /root/autodl-tmp/agri_intern/GouMang --tokeni
|
|
68 |
lmdeploy chat turbomind ./workspace
|
69 |
```
|
70 |
|
71 |
-
###
|
72 |
|
73 |
在上面的部分我们尝试了直接用命令行启动 Client,接下来我们尝试如何运用 lmdepoy 进行服务化。
|
74 |
|
|
|
68 |
lmdeploy chat turbomind ./workspace
|
69 |
```
|
70 |
|
71 |
+
### TurboMind Inference + API Service
|
72 |
|
73 |
在上面的部分我们尝试了直接用命令行启动 Client,接下来我们尝试如何运用 lmdepoy 进行服务化。
|
74 |
|