QscQ commited on
Commit
fe24186
·
verified ·
1 Parent(s): 49bc30d

Update vllm_deployment_guide_cn.md

Browse files
Files changed (1) hide show
  1. vllm_deployment_guide_cn.md +4 -1
vllm_deployment_guide_cn.md CHANGED
@@ -42,7 +42,10 @@ git clone https://huggingface.co/MiniMaxAI/MiniMax-M1-40k
42
  为确保部署环境的一致性和稳定性,我们推荐使用 Docker 进行部署。
43
 
44
  ⚠️ **版本要求**:
45
- - MiniMax-M1 模型需要 vLLM 0.8.3 或更高版本才能获得完整支持
 
 
 
46
 
47
  1. 获取容器镜像:
48
  ```bash
 
42
  为确保部署环境的一致性和稳定性,我们推荐使用 Docker 进行部署。
43
 
44
  ⚠️ **版本要求**:
45
+ - 基础要求:vLLM 版本必须 0.8.3,以确保对 MiniMax-M1 模型的完整支持
46
+ - 特殊说明:如果使用 vLLM 0.8.3 至 0.9.2 之间的版本,需要修改模型配置文件:
47
+ - 打开 `config.json`
48
+ - 将 `config['architectures'] = ["MiniMaxM1ForCausalLM"]` 修改为 `config['architectures'] = ["MiniMaxText01ForCausalLM"]`
49
 
50
  1. 获取容器镜像:
51
  ```bash