File size: 13,582 Bytes
29f45f7 44493c9 a6076a4 54e229a 29f45f7 |
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87 88 89 90 91 92 93 94 95 96 97 98 99 100 101 102 103 104 105 106 107 108 109 110 111 112 113 114 115 116 117 118 119 120 121 122 123 124 125 126 127 128 129 130 131 132 133 134 135 136 137 138 139 140 141 142 143 144 145 146 147 148 149 150 151 152 153 154 155 156 157 158 159 160 161 162 163 164 165 166 167 168 169 170 171 172 173 174 175 176 177 178 179 |
Name;Quant;Size;B;C;D;S;P;Type;Family(incomplete)
alpindale/goliath-120b;Q6_K;120B;3;2;1;6;6;merge;Llama-2-70b
NousResearch/Nous-Hermes-Llama2-70b;Q6_K;70B;3;2;0;3.75;3.5;finetune;Llama-2-70b
Sao10K/Euryale-1.3-L2-70B;Q6_K;70B;0;2;0;3;5;finetune+merge;Llama-2-70b
Xwin-LM/Xwin-LM-70B-V0.1;Q6_K;70B;0;1;2;5.5;5.25;finetune;Llama-2-70b
NousResearch/Nous-Capybara-34B;F16;34B;0;0;3;3.5;2.5;finetune;
mistralai/Mixtral-8x7B-Instruct-v0.1;F16;8x7B;0;2;0;5;5.5;finetune;Mixtral-8x7B
Qwen/Qwen-72B-Chat;Q6_K;72B;3;2;0;2.5;2;finetune;
upstage/SOLAR-10.7B-Instruct-v1.0;F16;10.7B;1;0;0;0.75;4;finetune;
fblgit/una-xaberius-34b-v1beta;F16;34B;0;2;0;1.75;0.25;finetune;
fblgit/una-cybertron-7b-v3-OMA;F16;7B;0;0;0;2.5;3;finetune;
ChatGPT/12-2023;n/a;n/a;1;n/a;0;8;n/a;finetune;
elinas/chronos-70b-v2;Q6_K;70B;0;0;0;3;2.25;finetune;Llama-2-70b
migtissera/SynthIA-70B-v1.5;Q6_K;70B;0;2;0;2.5;2.25;finetune;Llama-2-70b
jondurbin/spicyboros-70b-2.2;Q6_K;70B;3;2;1;6.25;4.5;finetune;Llama-2-70b
Brillibits/Instruct_Llama70B_Dolly15k;Q6_K;70B;3;0;0;2.25;0;finetune;Llama-2-70b
DiscoResearch/DiscoLM-70b;Q6_K;70B;3;2;0;2.75;3.25;finetune;Llama-2-70b
upstage/SOLAR-0-70b-16bit;Q6_K;70B;0;2;1.5;1.5;3.25;finetune;Llama-2-70b
augtoma/qCammel-70-x;Q6_K;70B;0;2;0;5.5;1.25;finetune;Llama-2-70b
garage-bAInd/Platypus2-70B;Q6_K;70B;3;2;0;1.5;1;finetune;Llama-2-70b
jarradh/llama2_70b_chat_uncensored;Q6_K;70B;3;2;0;3.5;2.25;finetune;Llama-2-70b
KaeriJenti/kaori-70b-v1;Q6_K;70B;3;1;0;3;2;finetune;Llama-2-70b
NousResearch/Nous-Puffin-70B;Q6_K;70B;3;2;0;1.75;0;finetune;Llama-2-70b
Sao10K/WinterGoddess-1.4x-70B-L2;Q6_K;70B;2;1.5;3;2.75;5.5;finetune+merge;Llama-2-70b
lizpreciatior/lzlv_70b_fp16_hf;Q6_K;70B;3;2;0;5.75;4.5;merge;Llama-2-70b
Doctor-Shotgun/mythospice-70b;Q6_K;70B;3;1;0;5.25;0.25;merge;Llama-2-70b
tiiuae/falcon-180B-chat;Q4_K_M;180B;3;0;0;5.25;5.5;finetune;
nsfwthrowitaway69/Venus-120b-v1.0;Q6_K;120B;3;2;0;3.5;4.5;merge;Llama-2-70b
deepseek-ai/deepseek-llm-67b-chat;Q6_K;67B;3;2;0;3.5;1;finetune;
allenai/tulu-2-dpo-70b;Q6_K;70B;0;0;0;4;3;finetune;Llama-2-70b
epfl-llm/meditron-70b;Q6_K;70B;0;2;0;1.25;0;finetune;Llama-2-70b
meta-llama/Llama-2-70b-hf;Q6_K;70B;0;2;0.5;1.25;0;base;Llama-2-70b
ChuckMcSneed/Dicephal-123B;Q6_K;123B;0;0;1;2.25;2.25;base+merge;Llama-2-70b
Yukang/LongAlpaca-70B;Q6_K;70B;0;2;0;5;0.25;finetune;Llama-2-70b
Yukang/Llama-2-70b-longlora-32k;Q6_K;70B;1;2;0;0.25;0;finetune;Llama-2-70b
Qwen/Qwen-72B;Q6_K;72B;0;0;0;1;1.5;base;
Yukang/LongAlpaca-70B-lora;Q6_K;70B;3;0;0;1;0;finetune;Llama-2-70b
ChuckMcSneed/Dicephal-123B+longlora;Q6_K;123B;1;2;1;1;2.25;merge;Llama-2-70b
Xwin-LM/Xwin-LM-70B-V0.1+LongAlpaca-lora;Q6_K;70B;1;1;0;2;0.25;merge;Llama-2-70b
Xwin-LM/Xwin-LM-70B-V0.1+longlora;Q6_K;70B;0;1;3;2.75;0.5;merge;Llama-2-70b
Xwin-LM/Xwin-LM-70B-V0.1+chat-longlora;Q6_K;70B;1.5;0;0;3.25;1.25;merge;Llama-2-70b
grimulkan/aurelian-alpha0.1-70b-rope8-32K-fp16;Q6_K;70B;0;1;0;1.25;2;finetune;Llama-2-70b
ChuckMcSneed/DoubleGold-v0.1-123b-32k;Q6_K;123B;1;2;0;4.5;2.75;merge;Llama-2-70b
Doctor-Shotgun/Mixtral-8x7B-Instruct-v0.1-LimaRP-ZLoss;F16;8x7B;0;2;0;4.75;4.75;finetune;Mixtral-8x7B
ChuckMcSneed/WinterGoliath-123b;Q6_K;123B;3;2;2;5.5;6;merge;Llama-2-70b
cognitivecomputations/dolphin-2.2-70b;Q6_K;70B;0;1;1;4.5;4.5;finetune;Llama-2-70b
cognitivecomputations/MegaDolphin-120b;Q6_K;120B;0;1;1;5.75;5.25;merge;Llama-2-70b
ChuckMcSneed/PMaxxxer-v1-70b;Q6_K;70B;3;1;1;6.75;4.75;merge;Llama-2-70b
ChuckMcSneed/SMaxxxer-v1-70b;Q6_K;70B;2;1;0;7.25;4.25;merge;Llama-2-70b
ChuckMcSneed/BenchmaxxxerSP-v1-123b(private);Q6_K;123B;1.5;2;1;6.75;5.25;merge;Llama-2-70b
ChuckMcSneed/BenchmaxxxerPS-v1-123b;Q6_K;123B;3;2;1;7.25;5.25;merge;Llama-2-70b
ChuckMcSneed/BenchmaxxxerMOE-v1-123b(private);Q6_K;2x70B;2;1;3;7.25;5;merge;Llama-2-70b
ChuckMcSneed/BenchmaxxxerSS-v1-123b(private);Q6_K;123B;1.5;2;0.5;6.5;5.5;merge;Llama-2-70b
grimulkan/aurelian-v0.5-70b-rope8-32K-fp16;Q6_K;70B;1;1;0;2.5;2.25;finetune;Llama-2-70b
ChuckMcSneed/DoubleGold-v0.5-123b-32k;Q6_K;123B;1;1;2;3.25;1.5;merge;Llama-2-70b
grimulkan/lzlv-longLORA-70b-rope8-32k-fp16;Q6_K;70B;3;2;0;3.5;3.75;merge;Llama-2-70b
grimulkan/Goliath-longLORA-120b-rope8-32k-fp16;Q6_K;120B;0.5;1.5;1;3.75;4.5;merge;Llama-2-70b
sophosympatheia/Aurora-Nights-70B-v1.0;Q6_K;70B;2.5;2;0;7.25;3.5;merge;Llama-2-70b
sophosympatheia/Aurora-Nights-103B-v1.0;Q6_K;103B;3;2;0;7.25;4.25;merge;Llama-2-70b
XWIN-32k-experimental(equivalent to grimulkan/Xwin-longLORA-70b-rope8-32k-fp16?);Q6_K;70B;0;1.5;1;3.5;3.75;merge;Llama-2-70b
deepnight-research/Saily_220B;Q3_K_L;208B;0;2;1;2.75;1.75;merge;Llama-2-70b
deepnight-research/saily_100b;Q6_K;118B;0;0;0;4.5;5.25;merge;Llama-2-70b
sophosympatheia/Midnight-Rose-70B-v1.0;Q6_K;70B;0;0;0;4;5;merge;Llama-2-70b
abacusai/Smaug-34B-v0.1;F16;34B;0;2;0;1.25;2.5;finetune;
ChuckMcSneed/WinterGoddess-1.4x-70b-32k;Q6_K;70B;2.5;2;0;1.5;2.25;merge;Llama-2-70b
ChuckMcSneed/WinterGoliath-123b-32k;Q6_K;123B;3;2;1;3.75;3.75;merge;Llama-2-70b
alpindale/miquella-120b(old);Q5_K_M;120B;0;0;0;3.25;0.25;merge;miqu
miqudev/miqu-1-70b;Q5_K_M;70B;3;2;0;6.25;3.75;finetune;miqu
ICBU-NPU/FashionGPT-70B-V1.1;Q6_K;70B;0;1.5;0;1.75;4;finetune;Llama-2-70b
ibivibiv/strix-rufipes-70b;Q6_K;70B;0;2;0;1;3.25;finetune;Llama-2-70b
Chat-Error/fiction.live-Kimiko-V2-70B;Q6_K;70B;0;1.5;0;1;2.25;finetune;Llama-2-70b
MayaPH/GodziLLa2-70B;Q6_K;70B;1.5;0;1;1.75;4.75;finetune;Llama-2-70b
WizardLM/WizardLM-70B-V1.0;Q6_K;70B;0;1;0;5.5;5.5;finetune;Llama-2-70b
Mikael110/llama-2-70b-guanaco-qlora;Q6_K;70B;0;2;0;4.75;5;finetune;Llama-2-70b
ChuckMcSneed/Gembo-v1-70b;Q6_K;70B;2.5;1.5;3;7.5;5.25;merge;Llama-2-70b
Qwen/Qwen1.5-72B-Chat;Q5_K_M;72B;0;0;0;6;4.5;finetune;Qwen1.5-72B
abacusai/Smaug-72B-v0.1(Alpaca format);Q5_K_S;72B;0.5;0.5;0.5;0.75;0.5;finetune;Qwen1.5-72B
abacusai/Smaug-72B-v0.1(llama chat format);Q6_K;72B;0;0;0;0.5;2.5;finetune;Qwen1.5-72B
ShinojiResearch/Senku-70B-Full;Q6_K;70B;0;1.5;3;3.75;3.75;finetune;miqu
Undi95/Miqu-70B-Alpaca-DPO;Q6_K;70B;1.5;1;0;6;4.25;finetune;miqu
TeeZee/Kyllene-34B-v1.1;F16;34B;0;2;0;4;2.75;merge;
cloudyu/Mixtral_34Bx2_MoE_60B;Q8_0;2x34B;0;2;0;2.25;2;merge;
TomGrc/FusionNet_7Bx2_MoE_v0.1;F16;2X7B;0;0;1;3.75;2.75;finetune;
ChuckMcSneed/Gembo-v1.1-70b;Q6_K;70B;2.5;1.5;3;6.75;5.25;merge;Llama-2-70b
miqu-123b(personal test merge);Q5_K_M;123B;2;0;1;7.75;4.5;merge;miqu
wolfram/miqu-1-120b;Q5_K_M;120B;2;0;0;8;4.25;merge;miqu
berkeley-nest/Starling-LM-7B-alpha;F16;7B;1.5;0.5;0;2.25;2.5;finetune;
wolfram/miquliz-120b-v2.0;Q5_K_M;120B;1;2;1;7.25;5;merge;miqu
sophosympatheia/Midnight-Rose-70B-v2.0.3;Q6_K;70B;2.5;1.5;0;6.75;4;merge;Llama-2-70b
ValiantLabs/ShiningValiant;Q6_K;70B;2.5;1.5;0;1.5;1.75;finetune;Llama-2-70b
Sao10K/Euryale-1.3-L2-70B+xwin-lora;Q6_K;70B;2;2;1;5.5;5.5;merge;Llama-2-70b
Xwin-LM/Xwin-LM-70B-V0.1+euryale-lora;Q6_K;70B;3;2;2;6;5;merge;Llama-2-70b
ChuckMcSneed/Premerge-XE-EX-123B(private);Q6_K;123B;2;2;2.5;6.75;5.5;merge;Llama-2-70b
ChuckMcSneed/Premerge-EX-XE-123B(private);Q6_K;123B;2;2;2;5.75;6;merge;Llama-2-70b
ChuckMcSneed/Premerge-XE-XE-123B;Q6_K;123B;3;2;2.5;7.25;5.25;merge;Llama-2-70b
ChuckMcSneed/Premerge-EX-EX-123B;Q6_K;123B;2;2;1.5;7.25;6;merge;Llama-2-70b
MaziyarPanahi/WizardLM-Math-70B-v0.1;Q6_K;70B;0;2;0;3.75;3;merge;Llama-2-70b
NousResearch/Nous-Hermes-2-Llama-2-70B;Q6_K;70B;0;2;1;3.5;1.5;finetune;Llama-2-70b
NeverSleep/MiquMaid-v2-70B-DPO;Q6_K;70B;3;1;0;2.75;0.5;finetune;miqu
senseable/WestLake-7B-v2;F16;7B;0;1;1;4;3.75;finetune;
CausalLM/34b-beta;F16;34B;0;2;3;2.75;3.75;finetune;
budecosystem/genz-70b;Q6_K;70B;0;1.5;0;2.25;4.25;finetune;Llama-2-70b
CohereForAI/c4ai-command-r-v01;F16;35B;0;0;2;7;4;finetune;
Nexusflow/Starling-LM-7B-beta;F16;7B;0.5;0;0;4;1.5;finetune;
wolfram/miqu-1-103b;Q5_K_M;103B;2.5;0;1;7.25;3;merge;miqu
crestf411/daybreak-miqu-1-70b-v1.0-hf;Q6_K;70B;3;2;3;6.25;4.5;finetune;miqu
ChuckMcSneed/ArcaneEntanglement-model64-70b;Q6_K;70B;3;2;1;7.25;6;merge;Llama-2-70b
migtissera/Tess-70B-v1.6;Q6_K;70B;0;1;0;5.25;2.25;finetune;miqu
SF-Foundation/EinBase-70B-v0.1-full;Q6_K;70B;3;2;0;7;2.5;finetune;miqu
CohereForAI/c4ai-command-r-plus;Q6_K;104B;0;0;3;7;4.5;finetune;
mistral-community/Mixtral-8x22B-v0.1;Q6_K;8x22B;3;1;0;0.75;0;base;Mixtral-8x22B
alpindale/WizardLM-2-8x22B;Q6_K;8x22B;3;1;0;6.75;4.75;finetune;Mixtral-8x22B
openbmb/Eurux-8x22b-nca;Q6_K;8x22B;3;2;3;4.5;4;finetune;Mixtral-8x22B
mistralai/Mixtral-8x22B-Instruct-v0.1;Q6_K;8x22B;1;1;0;7.5;4.5;finetune;Mixtral-8x22B
openbmb/Eurux-8x22b-kto;Q6_K;8x22B;3;2;0;4.75;5.25;finetune;Mixtral-8x22B
miqu-120b-attenuated(experimental merge);Q5_K_M;120B;1;0;0;7.25;4.5;merge;miqu
goliath-120b-attenuated(experimental merge);Q6_K;120B;1;0;0;4;3;merge;Llama-2-70b
meta-llama/Meta-Llama-3-70B-Instruct;Q6_K;70B;3;0;0;7.75;6;finetune;Llama-3-70b
meta-llama/Meta-Llama-3-8B-Instruct;F16;8B;0;2;1;6;4.75;finetune;
databricks/dbrx-instruct;Q6_K;16x12B;0;0;0;6.5;4.5;finetune;dbrx
databricks/dbrx-base;Q6_K;16x12B;1;2;0;1.25;0;base;dbrx
Qwen/Qwen1.5-110B-Chat;Q6_K;110B;0;0;0;7.5;4.5;finetune;Qwen1.5-110B
meta-llama/Meta-Llama-3-70B;Q6_K;70B;2.5;1.5;0;1.25;0.5;base;Llama-3-70b
jukofyork/Dark-Miqu-70B;Q6_K;70B;0;2;0;6.25;4.5;merge;miqu
llama3-123b-selfmerge;Q6_K;123B;3;0;0;1.5;0.25;base+merge;Llama-3-70b
cognitivecomputations/dolphin-2.9.1-qwen-110b;Q6_K;110B;0;1;3;3.75;4.25;finetune;Qwen1.5-110B
jondurbin/airoboros-dpo-110b-3.3;Q6_K;110B;0;0;2.5;5.25;5.25;finetune;Qwen1.5-110B
jondurbin/airoboros-110b-3.3;Q6_K;110B;0;1.5;0;4.25;5.75;finetune;Qwen1.5-110B
sophosympatheia/Midnight-Miqu-70B-v1.5;Q6_K;70B;0;2;0;5.75;4.5;merge;miqu
tdrussell/Llama-3-70B-Instruct-Storywriter;Q6_K;70B;3;0;3;7.75;4.25;finetune;Llama-3-70b
crestf411/L3-70B-daybreak-abliterated-v0.4;Q6_K;70B;3;2;0;7.5;6;finetune;Llama-3-70b
cognitivecomputations/dolphin-2.9.1-dbrx;Q6_K;16x12B;3;1;3;4;6;finetune;dbrx
billyjoe/quill-72b-instruct;Q6_K;72B;1;1.5;0;6.75;5;finetune;Qwen2-72b
cognitivecomputations/dolphin-2.9.2-qwen2-72b;Q6_K;72B;3;2;3;5.25;5;finetune;Qwen2-72b
alpindale/magnum-72b-v1;Q6_K;72B;0;2;3;7;4.75;finetune;Qwen2-72b
google/gemma-2-27b-it;BF16;27B;0;0.5;1;6.75;1.75;finetune;
google/gemma-2-9b-it;BF16;9B;0;0.5;1;6.5;1.75;finetune;
deepseek-ai/DeepSeek-V2-Chat-0628;BF16;21A236B;1;1;3;5.75;3.25;finetune;DeepSeek-V2
mistralai/Mistral-Large-Instruct-2407;Q6_K;123B;0;2;0;7.75;5.75;finetune;Mistral-Large-Instruct-2407
NeverSleep/Lumimaid-v0.2-123B;Q6_K;123B;0;2;3;8;3;finetune;Mistral-Large-Instruct-2407
meta-llama/Meta-Llama-3.1-70B-Instruct;Q6_K;70B;3;0;3;6.75;5.75;finetune;Llama-3.1-70b
meta-llama/Meta-Llama-3.1-8B-Instruct;BF16;8B;0;0;2;6.5;3.75;finetune;
mistralai/Mistral-Nemo-Instruct-2407;BF16;12B;0;2;3;6.75;5.25;finetune;
NeverSleep/Lumimaid-v0.2-12B;BF16;12B;0;1;2;2.5;1.25;finetune;
NeverSleep/Lumimaid-v0.2-70B;Q6_K;70B;1;2;3;6.5;3.5;finetune;Llama-3.1-70b
SillyTilly/Meta-Llama-3.1-405B-Instruct;Q8_0;405B;3;0;3;6.25;4.5;finetune;Llama-3.1-405B
dnhkng/RYS-XLarge;Q6_K;78B;0;0;3;5.25;2.25;finetune+merge;
migtissera/Tess-3-Llama-3.1-405B;Q8_0;405B;3;2;3;4.5;4.5;finetune;Llama-3.1-405B
migtissera/Tess-3-Mistral-Large-2-123B;Q6_K;123B;0;2;3;6.5;3.75;finetune;Mistral-Large-Instruct-2407
crestf411/L3.1-70B-sunfall-v0.6.1;Q6_K;70B;1;2;2.5;7.5;4.25;finetune;Llama-3.1-70b
mistralai/Mistral-Large-Instruct-2407;BF16;123B;0;2;3;8;5.5;finetune;Mistral-Large-Instruct-2407
NousResearch/Hermes-3-Llama-3.1-70B;Q6_K;70B;3;2;3;6.75;5;finetune;Llama-3.1-70b
NousResearch/Hermes-3-Llama-3.1-405B;Q8_0;405B;0;2;3;8;5.75;finetune;Llama-3.1-405B
anthracite-org/magnum-v2-123b;Q6_K;123B;0;2;2;7;4.75;finetune;Mistral-Large-Instruct-2407
anthracite-org/magnum-v2-72b;Q6_K;72B;0;2;0;5.75;4.75;finetune;Qwen2-72b
Sao10K/L3.1-70B-Euryale-v2.2;Q6_K;70B;3;2;3;7.5;2.5;finetune;Llama-3.1-70b
anthracite-org/magnum-v3-34b;BF16;34B;3;1;0;4.5;4;finetune;
CohereForAI/c4ai-command-r-08-2024;F16;32B;0;0;0;6;4.75;finetune;
CohereForAI/c4ai-command-r-plus-08-2024;Q6_K;104B;0;1;2;7.25;5;finetune;
FluffyKaeloky/Luminum-v0.1-123B;Q6_K;123B;0;2;3;7.5;5.25;merge;Mistral-Large-Instruct-2407
Qwen/Qwen2.5-72B-Instruct;Q6_K;72B;1;0;2;6.75;1.75;finetune;Qwen2.5-72B-Instruct
mistralai/Mistral-Small-Instruct-2409;BF16;22B;0;2;2;6;4;finetune;
TheDrummer/Behemoth-123B-v1;Q6_K;123B;0;2;3;7.25;5.5;finetune;Mistral-Large-Instruct-2407
nvidia/Llama-3.1-Nemotron-70B-Instruct-HF;Q6_K;70B;0;1.5;3;7.5;4.75;finetune;Llama-3.1-70b
anthracite-org/magnum-v4-123b;Q6_K;123B;3;2;3;7;4.5;finetune;Mistral-Large-Instruct-2407
TheDrummer/Behemoth-123B-v1.1;Q6_K;123B;0;2;3;7.5;5;finetune;Mistral-Large-Instruct-2407
Nexusflow/Athene-V2-Chat;Q6_K;72B;1;0;3;6.25;2.25;finetune;Qwen2.5-72B-Instruct
mistralai/Mistral-Large-Instruct-2411;Q6_K;123B;0;0;3;7.5;4.25;finetune;Mistral-Large-Instruct-2411
TheDrummer/Behemoth-123B-v2;Q6_K;123B;1;2;3;6.75;5.5;finetune;Mistral-Large-Instruct-2411
TheDrummer/Behemoth-123B-v2.1;Q6_K;123B;0;2;3;7.5;5;finetune;Mistral-Large-Instruct-2411
TheDrummer/Behemoth-123B-v2.2;Q6_K;123B;0;2;3;7.5;5;finetune;Mistral-Large-Instruct-2411
TheDrummer/Behemoth-123B-v1.2;Q6_K;123B;0;2;3;7.25;5.25;finetune;Mistral-Large-Instruct-2407
TheDrummer/Lazarus-2407-100B;Q6_K;100B;0;2;1;6.5;5;merge;Mistral-Large-Instruct-2407
bartowski/Lazarus-2407-100B-GGUF;Q6_K;100B;0;2;1;6.5;5;merge;Mistral-Large-Instruct-2407
meta-llama/Llama-3.3-70B-Instruct;Q6_K;70B;0;2;3;6.75;5;finetune;Llama-3.1-70b
TheDrummer/Endurance-100B-v1;Q6_K;100B;0;2;3;7;5;finetune+merge;Mistral-Large-Instruct-2407
TheDrummer/Endurance-100B-v1.1;Q6_K;100B;0;2;3;7;4.25;finetune+merge;Mistral-Large-Instruct-2407
Maximum;n/a;n/a;3;2;3;8;6;;
|