Name;Quant;Size;B;C;D;S;P;Type;Family(incomplete)
stringlengths 27
124
|
|---|
budecosystem/genz-70b;Q6_K;70B;0;1.5;0;2.25;4.25;finetune;Llama-2-70b |
CohereForAI/c4ai-command-r-v01;F16;35B;0;0;2;7;4;finetune; |
Nexusflow/Starling-LM-7B-beta;F16;7B;0.5;0;0;4;1.5;finetune; |
wolfram/miqu-1-103b;Q5_K_M;103B;2.5;0;1;7.25;3;merge;miqu |
crestf411/daybreak-miqu-1-70b-v1.0-hf;Q6_K;70B;3;2;3;6.25;4.5;finetune;miqu |
ChuckMcSneed/ArcaneEntanglement-model64-70b;Q6_K;70B;3;2;1;7.25;6;merge;Llama-2-70b |
migtissera/Tess-70B-v1.6;Q6_K;70B;0;1;0;5.25;2.25;finetune;miqu |
SF-Foundation/EinBase-70B-v0.1-full;Q6_K;70B;3;2;0;7;2.5;finetune;miqu |
CohereForAI/c4ai-command-r-plus;Q6_K;104B;0;0;3;7;4.5;finetune; |
mistral-community/Mixtral-8x22B-v0.1;Q6_K;8x22B;3;1;0;0.75;0;base;Mixtral-8x22B |
alpindale/WizardLM-2-8x22B;Q6_K;8x22B;3;1;0;6.75;4.75;finetune;Mixtral-8x22B |
openbmb/Eurux-8x22b-nca;Q6_K;8x22B;3;2;3;4.5;4;finetune;Mixtral-8x22B |
mistralai/Mixtral-8x22B-Instruct-v0.1;Q6_K;8x22B;1;1;0;7.5;4.5;finetune;Mixtral-8x22B |
openbmb/Eurux-8x22b-kto;Q6_K;8x22B;3;2;0;4.75;5.25;finetune;Mixtral-8x22B |
miqu-120b-attenuated(experimental merge);Q5_K_M;120B;1;0;0;7.25;4.5;merge;miqu |
goliath-120b-attenuated(experimental merge);Q6_K;120B;1;0;0;4;3;merge;Llama-2-70b |
meta-llama/Meta-Llama-3-70B-Instruct;Q6_K;70B;3;0;0;7.75;6;finetune;Llama-3-70b |
meta-llama/Meta-Llama-3-8B-Instruct;F16;8B;0;2;1;6;4.75;finetune; |
databricks/dbrx-instruct;Q6_K;16x12B;0;0;0;6.5;4.5;finetune;dbrx |
databricks/dbrx-base;Q6_K;16x12B;1;2;0;1.25;0;base;dbrx |
Qwen/Qwen1.5-110B-Chat;Q6_K;110B;0;0;0;7.5;4.5;finetune;Qwen1.5-110B |
meta-llama/Meta-Llama-3-70B;Q6_K;70B;2.5;1.5;0;1.25;0.5;base;Llama-3-70b |
jukofyork/Dark-Miqu-70B;Q6_K;70B;0;2;0;6.25;4.5;merge;miqu |
llama3-123b-selfmerge;Q6_K;123B;3;0;0;1.5;0.25;base+merge;Llama-3-70b |
cognitivecomputations/dolphin-2.9.1-qwen-110b;Q6_K;110B;0;1;3;3.75;4.25;finetune;Qwen1.5-110B |
jondurbin/airoboros-dpo-110b-3.3;Q6_K;110B;0;0;2.5;5.25;5.25;finetune;Qwen1.5-110B |
jondurbin/airoboros-110b-3.3;Q6_K;110B;0;1.5;0;4.25;5.75;finetune;Qwen1.5-110B |
sophosympatheia/Midnight-Miqu-70B-v1.5;Q6_K;70B;0;2;0;5.75;4.5;merge;miqu |
tdrussell/Llama-3-70B-Instruct-Storywriter;Q6_K;70B;3;0;3;7.75;4.25;finetune;Llama-3-70b |
crestf411/L3-70B-daybreak-abliterated-v0.4;Q6_K;70B;3;2;0;7.5;6;finetune;Llama-3-70b |
cognitivecomputations/dolphin-2.9.1-dbrx;Q6_K;16x12B;3;1;3;4;6;finetune;dbrx |
billyjoe/quill-72b-instruct;Q6_K;72B;1;1.5;0;6.75;5;finetune;Qwen2-72b |
cognitivecomputations/dolphin-2.9.2-qwen2-72b;Q6_K;72B;3;2;3;5.25;5;finetune;Qwen2-72b |
alpindale/magnum-72b-v1;Q6_K;72B;0;2;3;7;4.75;finetune;Qwen2-72b |
google/gemma-2-27b-it;BF16;27B;0;0.5;1;6.75;1.75;finetune; |
google/gemma-2-9b-it;BF16;9B;0;0.5;1;6.5;1.75;finetune; |
deepseek-ai/DeepSeek-V2-Chat-0628;BF16;21A236B;1;1;3;5.75;3.25;finetune;DeepSeek-V2 |
mistralai/Mistral-Large-Instruct-2407;Q6_K;123B;0;2;0;7.75;5.75;finetune;Mistral-Large-Instruct-2407 |
NeverSleep/Lumimaid-v0.2-123B;Q6_K;123B;0;2;3;8;3;finetune;Mistral-Large-Instruct-2407 |
meta-llama/Meta-Llama-3.1-70B-Instruct;Q6_K;70B;3;0;3;6.75;5.75;finetune;Llama-3.1-70b |
meta-llama/Meta-Llama-3.1-8B-Instruct;BF16;8B;0;0;2;6.5;3.75;finetune; |
mistralai/Mistral-Nemo-Instruct-2407;BF16;12B;0;2;3;6.75;5.25;finetune; |
NeverSleep/Lumimaid-v0.2-12B;BF16;12B;0;1;2;2.5;1.25;finetune; |
NeverSleep/Lumimaid-v0.2-70B;Q6_K;70B;1;2;3;6.5;3.5;finetune;Llama-3.1-70b |
SillyTilly/Meta-Llama-3.1-405B-Instruct;Q8_0;405B;3;0;3;6.25;4.5;finetune;Llama-3.1-405B |
dnhkng/RYS-XLarge;Q6_K;78B;0;0;3;5.25;2.25;finetune+merge; |
migtissera/Tess-3-Llama-3.1-405B;Q8_0;405B;3;2;3;4.5;4.5;finetune;Llama-3.1-405B |
migtissera/Tess-3-Mistral-Large-2-123B;Q6_K;123B;0;2;3;6.5;3.75;finetune;Mistral-Large-Instruct-2407 |
crestf411/L3.1-70B-sunfall-v0.6.1;Q6_K;70B;1;2;2.5;7.5;4.25;finetune;Llama-3.1-70b |
mistralai/Mistral-Large-Instruct-2407;BF16;123B;0;2;3;8;5.5;finetune;Mistral-Large-Instruct-2407 |
NousResearch/Hermes-3-Llama-3.1-70B;Q6_K;70B;3;2;3;6.75;5;finetune;Llama-3.1-70b |
NousResearch/Hermes-3-Llama-3.1-405B;Q8_0;405B;0;2;3;8;5.75;finetune;Llama-3.1-405B |
anthracite-org/magnum-v2-123b;Q6_K;123B;0;2;2;7;4.75;finetune;Mistral-Large-Instruct-2407 |
anthracite-org/magnum-v2-72b;Q6_K;72B;0;2;0;5.75;4.75;finetune;Qwen2-72b |
Sao10K/L3.1-70B-Euryale-v2.2;Q6_K;70B;3;2;3;7.5;2.5;finetune;Llama-3.1-70b |
anthracite-org/magnum-v3-34b;BF16;34B;3;1;0;4.5;4;finetune; |
CohereForAI/c4ai-command-r-08-2024;F16;32B;0;0;0;6;4.75;finetune; |
CohereForAI/c4ai-command-r-plus-08-2024;Q6_K;104B;0;1;2;7.25;5;finetune; |
FluffyKaeloky/Luminum-v0.1-123B;Q6_K;123B;0;2;3;7.5;5.25;merge;Mistral-Large-Instruct-2407 |
Qwen/Qwen2.5-72B-Instruct;Q6_K;72B;1;0;2;6.75;1.75;finetune;Qwen2.5-72B-Instruct |
mistralai/Mistral-Small-Instruct-2409;BF16;22B;0;2;2;6;4;finetune; |
TheDrummer/Behemoth-123B-v1;Q6_K;123B;0;2;3;7.25;5.5;finetune;Mistral-Large-Instruct-2407 |
nvidia/Llama-3.1-Nemotron-70B-Instruct-HF;Q6_K;70B;0;1.5;3;7.5;4.75;finetune;Llama-3.1-70b |
anthracite-org/magnum-v4-123b;Q6_K;123B;3;2;3;7;4.5;finetune;Mistral-Large-Instruct-2407 |
TheDrummer/Behemoth-123B-v1.1;Q6_K;123B;0;2;3;7.5;5;finetune;Mistral-Large-Instruct-2407 |
Nexusflow/Athene-V2-Chat;Q6_K;72B;1;0;3;6.25;2.25;finetune;Qwen2.5-72B-Instruct |
mistralai/Mistral-Large-Instruct-2411;Q6_K;123B;0;0;3;7.5;4.25;finetune;Mistral-Large-Instruct-2411 |
TheDrummer/Behemoth-123B-v2;Q6_K;123B;1;2;3;6.75;5.5;finetune;Mistral-Large-Instruct-2411 |
TheDrummer/Behemoth-123B-v2.1;Q6_K;123B;0;2;3;7.5;5;finetune;Mistral-Large-Instruct-2411 |
TheDrummer/Behemoth-123B-v2.2;Q6_K;123B;0;2;3;7.5;5;finetune;Mistral-Large-Instruct-2411 |
TheDrummer/Behemoth-123B-v1.2;Q6_K;123B;0;2;3;7.25;5.25;finetune;Mistral-Large-Instruct-2407 |
TheDrummer/Lazarus-2407-100B;Q6_K;100B;0;2;1;6.5;5;merge;Mistral-Large-Instruct-2407 |
bartowski/Lazarus-2407-100B-GGUF;Q6_K;100B;0;2;1;6.5;5;merge;Mistral-Large-Instruct-2407 |
meta-llama/Llama-3.3-70B-Instruct;Q6_K;70B;0;2;3;6.75;5;finetune;Llama-3.1-70b |
TheDrummer/Endurance-100B-v1;Q6_K;100B;0;2;3;7;5;finetune+merge;Mistral-Large-Instruct-2407 |
TheDrummer/Endurance-100B-v1.1;Q6_K;100B;0;2;3;7;4.25;finetune+merge;Mistral-Large-Instruct-2407 |
Maximum;n/a;n/a;3;2;3;8;6;; |