quantization method,hardware,bits
AQLM,CPU,1
AQLM,CPU,2
AQLM,CUDA GPU,1
AQLM,CUDA GPU,2
AWQ,CPU,4
AWQ,CUDA GPU,4
AWQ,ROCm GPU,4
bitsandbytes,CUDA GPU,4
bitsandbytes,CUDA GPU,8
compressed-tensors,CPU,1
compressed-tensors,CPU,8
compressed-tensors,CUDA GPU,1
compressed-tensors,CUDA GPU,8
compressed-tensors,ROCm GPU,1
compressed-tensors,ROCm GPU,8
EETQ,CUDA GPU,8
GGUF,CPU,1
GGUF,CPU,8
GGUF,CUDA GPU,1
GGUF,CUDA GPU,8
GGUF,Apple Silicon,1
GGUF,Apple Silicon,8
GPTQ,CUDA GPU,2
GPTQ,CUDA GPU,3
GPTQ,CUDA GPU,4
GPTQ,CUDA GPU,8
GPTQ,ROCm GPU,2
GPTQ,ROCm GPU,3
GPTQ,ROCm GPU,4
GPTQ,ROCm GPU,8
HQQ,CPU,1
HQQ,CPU,8
HQQ,CUDA GPU,1
HQQ,CUDA GPU,8
optimum-quanto,CPU,2
optimum-quanto,CPU,4
optimum-quanto,CPU,8
optimum-quanto,CUDA GPU,2
optimum-quanto,CUDA GPU,4
optimum-quanto,CUDA GPU,8
FBGEMM_FP8,CUDA GPU,8
torchao,CUDA GPU,4
torchao,CUDA GPU,8