File size: 202 Bytes
a9a4ff3
 
 
64a29be
 
 
 
 
 
 
ce71c3a
1
2
3
4
5
6
7
8
9
10
11
---
license: cc-by-nc-sa-4.0
---

原始模型:https://huggingface.co/SakuraLLM/Sakura-13B-Qwen2beta-v0.9

4Bit AWQ量化,未测试,不建议使用。

GroupSize=64

适用于Kaggle双卡推理。