| quantization method,hardware,bits | |
| AQLM,CPU,1 | |
| AQLM,CPU,2 | |
| AQLM,CUDA GPU,1 | |
| AQLM,CUDA GPU,2 | |
| AWQ,CPU,4 | |
| AWQ,CUDA GPU,4 | |
| AWQ,ROCm GPU,4 | |
| bitsandbytes,CUDA GPU,4 | |
| bitsandbytes,CUDA GPU,8 | |
| compressed-tensors,CPU,1 | |
| compressed-tensors,CPU,8 | |
| compressed-tensors,CUDA GPU,1 | |
| compressed-tensors,CUDA GPU,8 | |
| compressed-tensors,ROCm GPU,1 | |
| compressed-tensors,ROCm GPU,8 | |
| EETQ,CUDA GPU,8 | |
| GGUF,CPU,1 | |
| GGUF,CPU,8 | |
| GGUF,CUDA GPU,1 | |
| GGUF,CUDA GPU,8 | |
| GGUF,Apple Silicon,1 | |
| GGUF,Apple Silicon,8 | |
| GPTQ,CUDA GPU,2 | |
| GPTQ,CUDA GPU,3 | |
| GPTQ,CUDA GPU,4 | |
| GPTQ,CUDA GPU,8 | |
| GPTQ,ROCm GPU,2 | |
| GPTQ,ROCm GPU,3 | |
| GPTQ,ROCm GPU,4 | |
| GPTQ,ROCm GPU,8 | |
| HQQ,CPU,1 | |
| HQQ,CPU,8 | |
| HQQ,CUDA GPU,1 | |
| HQQ,CUDA GPU,8 | |
| optimum-quanto,CPU,2 | |
| optimum-quanto,CPU,4 | |
| optimum-quanto,CPU,8 | |
| optimum-quanto,CUDA GPU,2 | |
| optimum-quanto,CUDA GPU,4 | |
| optimum-quanto,CUDA GPU,8 | |
| FBGEMM_FP8,CUDA GPU,8 | |
| torchao,CUDA GPU,4 | |
| torchao,CUDA GPU,8 |