update readme
Browse files
README.md
CHANGED
@@ -262,7 +262,7 @@ print(response)
|
|
262 |
或者你可以使用以下命令启动兼容 OpenAI API 的服务:
|
263 |
|
264 |
```bash
|
265 |
-
lmdeploy serve api_server internlm/internlm2_5-1_8b-chat --server-port 23333
|
266 |
```
|
267 |
|
268 |
然后你可以向服务端发起一个聊天请求:
|
@@ -290,7 +290,7 @@ pip install vllm
|
|
290 |
```
|
291 |
|
292 |
```bash
|
293 |
-
python -m vllm.entrypoints.openai.api_server --model internlm/internlm2_5-1_8b-chat --trust-remote-code
|
294 |
```
|
295 |
|
296 |
然后你可以向服务端发起一个聊天请求:
|
|
|
262 |
或者你可以使用以下命令启动兼容 OpenAI API 的服务:
|
263 |
|
264 |
```bash
|
265 |
+
lmdeploy serve api_server internlm/internlm2_5-1_8b-chat --model-name internlm2_5-1_8b-chat --server-port 23333
|
266 |
```
|
267 |
|
268 |
然后你可以向服务端发起一个聊天请求:
|
|
|
290 |
```
|
291 |
|
292 |
```bash
|
293 |
+
python -m vllm.entrypoints.openai.api_server --model internlm/internlm2_5-1_8b-chat --served-model-name internlm2_5-1_8b-chat --trust-remote-code
|
294 |
```
|
295 |
|
296 |
然后你可以向服务端发起一个聊天请求:
|