请教下如何转换？
#1
by
aio2024
- opened
我尝试进行转换，但是告诉我格式不对，请教下应该如何进行转换？能否把命令贴以下？
git clone https://github.com/ggerganov/llama.cpp
cd llama.cpp
pip install -r requirements.txt
python convert-hf-to-gguf.py File_Path --outtype f16
git clone https://github.com/ggerganov/llama.cpp
cd llama.cpp
pip install -r requirements.txt
python convert-hf-to-gguf.py File_Path --outtype f16
之前我转换过一次，转换完后用ollma加载变成不能指令对话，只能接上文的base模型了。请问你遇到过这种情况吗
是否在转换后进行了量化，该模型不支持量化
是否在转换后进行了量化，该模型不支持量化
没量化，就是用的基于百川13B训练的那版secgpt。刚刚试了下你转化的还是没指令功能，不知道是不是ollama的modelfile写得有问题