ChuckMcSneed commited on
Commit
5a6a96c
1 Parent(s): b586f8e

Upload 2 files

Browse files
Files changed (2) hide show
  1. wolfram-bench.png +2 -2
  2. wolfram.csv +37 -37
wolfram-bench.png CHANGED

Git LFS Details

  • SHA256: 1aac4d90de23e8039e26550de6266f0f319107945f71f4fdbb84767e003fd01c
  • Pointer size: 131 Bytes
  • Size of remote file: 316 kB

Git LFS Details

  • SHA256: 1f6a44456e437bdc40b43ac34212e781de0210f55e8e309c1000defbffee41f9
  • Pointer size: 131 Bytes
  • Size of remote file: 315 kB
wolfram.csv CHANGED
@@ -1,5 +1,5 @@
1
  Rank;Model;Size;Format;Quant;Context;Prompt;1st Score;2nd Score;OK;+/-;Total
2
- 1;GPT-4;GPT-4;API;n/a;n/a;n/a;18;18;1;1;38
3
  1;miquliz-120b-v2.0;120B;EXL2;3.0bpw;32768;Mistral;18;18;1;1;38
4
  1;goliath-120b-GGUF;120B;GGUF;Q2_K;4096;Vicuna 1.1;18;18;1;1;38
5
  1;Tess-XL-v1.0-GGUF;120B;GGUF;Q2_K;4096;Synthia;18;18;1;1;38
@@ -8,92 +8,92 @@ Rank;Model;Size;Format;Quant;Context;Prompt;1st Score;2nd Score;OK;+/-;Total
8
  3;miquella-120b-3.0bpw-h6-exl2;120B;EXL2;3.0bpw;32768;Mistral;18;17;1;1;37
9
  3;lzlv_70B-GGUF;70B;GGUF;Q4_0;4096;Vicuna 1.1;18;17;1;1;37
10
  4;Mixtral_34Bx2_MoE_60B;2x34B;HF;4-bit;200000;Alpaca;18;17;1;0;36
11
- 6;GPT-4 Turbo;GPT-4;API;n/a;n/a;n/a;18;16;1;1;36
 
12
  6;chronos007-70B-GGUF;70B;GGUF;Q4_0;4096;Alpaca;18;16;1;1;36
13
  6;SynthIA-70B-v1.5-GGUF;70B;GGUF;Q4_0;4096;SynthIA;18;16;1;1;36
14
- 5;miquliz-120b-xs.gguf;120B;GGUF;IQ2_XS;32768;Mistral;18;17;0;0;35
15
  6;Gembo-v1-70b-GGUF;70B;GGUF;Q5_K_M;4096;Alpaca;18;16;1;0;35
16
  6;bagel-34b-v0.2;34B;HF;4-bit;200000;Alpaca;18;16;1;0;35
17
  7;Mixtral-8x7B-Instruct-v0.1;8x7B;HF;4-bit;32768;Mixtral;18;16;0;1;35
18
- 16;miquella-120b;120B;GGUF;Q2_K;32768;Mistral;17;17;1;0;35
19
- 9;StellarBright-GGUF;70B;GGUF;Q4_0;4096;Vicuna 1.1;18;14;1;1;34
20
- 17;MegaDolphin-120b-exl2;120B;EXL2;3.0bpw;4096;ChatML;17;16;1;0;34
21
- 17;Airoboros-L2-70B-3.1.2-GGUF;70B;GGUF;Q4_K_M;4096;Llama 2 Chat;17;16;1;0;34
22
  8;dolphin-2_2-yi-34b-GGUF;34B;GGUF;Q4_0;16384;ChatML;18;15;0;0;33
 
23
  10;Dawn-v2-70B-GGUF;70B;GGUF;Q4_0;4096;Alpaca;18;14;1;0;33
24
  10;Euryale-1.3-L2-70B-GGUF;70B;GGUF;Q4_0;4096;Alpaca;18;14;1;0;33
25
  10;bagel-dpo-34b-v0.2;34B;HF;4-bit;200000;Alpaca;18;14;1;0;33
26
  10;nontoxic-bagel-34b-v0.2;34B;HF;4-bit;200000;Alpaca;18;14;1;0;33
27
  11;sophosynthesis-70b-v1;70B;EXL2;4.85bpw;4096;Vicuna 1.1;18;13;1;1;33
28
- 18;Midnight-Miqu-70B-v1.0-GGUF;70B;GGUF;Q4_K_M;32768;Vicuna 1.1;17;16;0;0;33
29
- 18;Gemini Pro;Gemini;API;n/a;n/a;n/a;17;16;0;0;33
30
  11;miquella-120b;120B;GGUF;IQ3_XXS;32768;Mistral;18;13;1;0;32
 
31
  13;GodziLLa2-70B-GGUF;70B;GGUF;Q4_0;4096;Alpaca;18;12;1;1;32
 
 
 
 
 
 
 
32
  19;miquliz-120b-v2.0-i1-GGUF;120B;GGUF;IQ1_S;32768;Mistral;17;15;0;0;32
33
  19;Nous-Hermes-2-Mixtral-8x7B-DPO-GGUF;8x7B;GGUF;Q4_K_M;32768;ChatML;17;15;0;0;32
34
  19;SauerkrautLM-UNA-SOLAR-Instruct;11B;HF;F16;4096;User-Ass.-Newlines;17;15;0;0;32
35
  19;UNA-SOLAR-10.7B-Instruct-v1.0;11B;HF;F16;4096;User-Ass.-Newlines;17;15;0;0;32
36
  20;Senku-70B-Full-GGUF;70B;GGUF;Q5_K_M;32768;ChatML;17;14;1;0;32
37
- 28;miqu-1-70b-exl2;70B;EXL2;3.0bpw;32768;Mistral;16;16;0;0;32
38
- 38;mistral-medium;Mistral;API;n/a;n/a;n/a;15;17;0;0;32
39
- 12;Mixtral_11Bx2_MoE_19B;2x11B;HF;F16;200000;Alpaca;18;13;0;0;31
40
  21;Rogue-Rose-103b-v0.2;103B;EXL2;3.2bpw;4096;Rogue Rose;17;14;0;0;31
41
  21;laserxtral;4x7B;GGUF;Q6_K;8192;Alpaca;17;14;0;0;31
42
  21;SOLAR-10.7B-Instruct-v1.0;11B;HF;F16;4096;User-Ass.-Newlines;17;14;0;0;31
43
  22;MiquMaid-v1-70B-GGUF;70B;GGUF;Q5_K_M;32768;Alpaca;17;13;1;0;31
44
- 29;SOLAR-10.7B-Instruct-v1.0-uncensored;11B;HF;F16;4096;User-Ass.-Newlines;16;15;0;0;31
45
- 30;bagel-dpo-8x7b-v0.2;8x7B;HF;4-bit;200000;Alpaca;16;14;1;0;31
46
- 31;dolphin-2.2-70B-GGUF;70B;GGUF;Q4_0;4096;ChatML;16;14;0;1;31
47
  22;miqu-1-70b;70B;GGUF;Q5_K_M;32768;Mistral;17;13;0;0;30
48
  22;miqu-1-70b;70B;GGUF;Q4_K_M;32768;Mistral;17;13;0;0;30
49
  22;MIstral-QUantized-70b_Miqu-1-70b-iMat.GGUF;70B;GGUF;Q4_K_S;32768;Mistral;17;13;0;0;30
 
 
 
 
 
 
 
 
 
 
 
50
  31;miqu-1-103b-i1-GGUF;103B;GGUF;IQ2_XS;32768;Mistral;16;14;0;0;30
51
  31;WestLake-7B-v2-laser;7B;HF;F16;4096;ChatML;16;14;0;0;30
52
  32;Beyonder-4x7B-v2-GGUF;4x7B;GGUF;Q8_0;8192;ChatML;16;13;1;0;30
53
  33;mistral-ft-optimized-1218;7B;HF;F16;32768;Alpaca;16;13;0;1;30
54
- 39;mistral-ft-optimized-1227;7B;HF;F16;32768;Alpaca;15;14;0;1;30
55
- 14;miquliz-120b-v2.0-iMat.GGUF;120B;GGUF;IQ2_XS;32768;Mistral;18;11;0;0;29
56
- 23;Midnight-Rose-70B-v2.0.3-GGUF;70B;GGUF;IQ3_XXS;4096;Vicuna 1.1;17;11;1;0;29
57
  34;SauerkrautLM-SOLAR-Instruct;11B;HF;F16;4096;User-Ass.-Newlines;16;13;0;0;29
58
  34;OpenHermes-2.5-Mistral-7B;7B;HF;F16;32768;ChatML;16;13;0;0;29
59
  35;Nous-Hermes-2-Mixtral-8x7B-SFT-GGUF;8x7B;GGUF;Q4_K_M;32768;ChatML;16;12;1;0;29
60
- 40;GPT-3.5 Turbo;GPT-3.5;API;n/a;n/a;n/a;15;14;0;0;29
61
- 41;dolphin-2.5-mixtral-8x7b;8x7B;HF;4-bit;32768;ChatML;15;13;0;1;29
62
- 15;Samantha-1.11-70B-GGUF;70B;GGUF;Q4_0;4096;Vicuna 1.1;18;10;0;0;28
63
- 24;GPT-3.5 Turbo Instruct;GPT-3.5;API;n/a;n/a;n/a;17;11;0;0;28
64
- 24;mistral-small;Mistral;API;n/a;n/a;n/a;17;11;0;0;28
65
  36;SOLARC-MOE-10.7Bx4;4x11B;HF;4-bit;4096;User-Ass.-Newlines;16;12;0;0;28
66
  36;Nous-Hermes-2-SOLAR-10.7B;11B;HF;F16;4096;User-Ass.-Newlines;16;12;0;0;28
67
  36;Sakura-SOLAR-Instruct;11B;HF;F16;4096;User-Ass.-Newlines;16;12;0;0;28
68
  36;Mistral-7B-Instruct-v0.2;7B;HF;F16;32768;Mistral;16;12;0;0;28
69
- 42;Starling-LM-7B-alpha;7B;HF;F16;8192;OpenChat (GPT4 Correct);15;13;0;0;28
70
- 25;WestLake-7B-v2;7B;HF;F16;4096;ChatML;17;10;0;0;27
71
- 25;SOLARC-M-10.7B;11B;HF;F16;4096;User-Ass.-Newlines;17;10;0;0;27
72
  37;DeciLM-7B-instruct;7B;HF;F16;32768;Mistral;16;11;0;0;27
73
  37;Marcoroni-7B-v3;7B;HF;F16;32768;Alpaca;16;11;0;0;27
74
  37;SauerkrautLM-7b-HerO;7B;HF;F16;32768;ChatML;16;11;0;0;27
 
 
 
 
 
75
  43;dolphin-2.6-mistral-7b-dpo;7B;HF;F16;16384;ChatML;15;12;0;0;27
76
  44;Mixtral_7Bx2_MoE;2x7B;HF;F16;8192;ChatML;15;11;1;0;27
77
- 51;SOLARC-MOE-10.7Bx6;6x11B;HF;4-bit;4096;User-Ass.-Newlines;13;14;0;0;27
78
- 26;Synthia-MoE-v3-Mixtral-8x7B;8x7B;HF;4-bit;32768;Synthia Llama 2 Chat;17;9;0;0;26
79
  45;Nous-Hermes-2-Mixtral-8x7B-DPO;8x7B;HF;4-bit;32768;ChatML;15;10;1;0;26
80
- 49;dolphin-2.6-mixtral-8x7b;8x7B;HF;4-bit;32768;ChatML;14;12;0;0;26
81
- 52;OpenHermes-2.5-neural-chat-v3-3-openchat-3.5-1210-Slerp;7B;HF;F16;32768;OpenChat (GPT4 Correct);13;13;0;0;26
82
- 54;dolphin-2.6-mistral-7b-dpo-laser;7B;HF;F16;16384;ChatML;12;13;0;0;25
83
- 50;MixtralRPChat-ZLoss;8x7B;HF;4-bit;32768;CharGoddard;14;10;0;0;24
84
- 57;SauerkrautLM-70B-v1-GGUF;70B;GGUF;Q4_0;4096;Llama 2 Chat;9;15;0;0;24
85
- 27;Nous-Hermes-2-Mixtral-8x7B-SFT;8x7B;HF;4-bit;32768;ChatML;17;5;1;0;23
86
  46;sparsetral-16x7B-v2;16x7B;HF;F16;4096;ChatML;15;7;1;0;23
87
  47;openchat-3.5-1210;7B;HF;F16;8192;OpenChat (GPT4 Correct);15;7;0;0;22
88
- 55;sonya-medium-x8-MoE;8x11B;HF;4-bit;8192;Alpaca;12;10;0;0;22
89
  48;dolphin-2.7-mixtral-8x7b;8x7B;HF;4-bit;32768;ChatML;15;6;0;0;21
 
 
 
 
90
  53;dolphin-2.8-experiment26-7b-preview;7B;HF;F16;4096;ChatML;13;8;0;0;21
 
 
91
  56;dolphin-2.6-mistral-7b;7B;HF;F16;32768;ChatML;10;10;0;0;20
 
92
  58;bagel-8x7b-v0.2;8x7B;HF;F16;200000;Alpaca;6;10;1;0;17
93
- 62;mistral-tiny;Mistral;API;n/a;n/a;n/a;4;11;0;0;15
94
  59;DiscoLM_German_7b_v1-GGUF;7B;GGUF;Q8_0;8192;ChatML;6;8;0;0;14
95
- 61;gemma-7b-it-GGUF;7B;GGUF;Q8_0;2048;Gemma;5;8;0;0;13
96
  60;stablelm-2-zephyr-1_6b;1.6B;HF;F16;4096;Zephyr 1.6B;6;3;0;0;9
 
 
97
  63;phi-2-super;2.7B;HF;F16;2048;Mistral;0;1;0;0;1
98
  64;dolphin-2_6-phi-2;2.7B;HF;F16;2048;ChatML;0;0;0;0;0
99
  64;TinyLlama-1.1B-Chat-v1.0;1.1B;HF;F16;2048;Zephyr;0;0;0;0;0
 
1
  Rank;Model;Size;Format;Quant;Context;Prompt;1st Score;2nd Score;OK;+/-;Total
2
+ 1;GPT-4;n/a;API;n/a;n/a;n/a;18;18;1;1;38
3
  1;miquliz-120b-v2.0;120B;EXL2;3.0bpw;32768;Mistral;18;18;1;1;38
4
  1;goliath-120b-GGUF;120B;GGUF;Q2_K;4096;Vicuna 1.1;18;18;1;1;38
5
  1;Tess-XL-v1.0-GGUF;120B;GGUF;Q2_K;4096;Synthia;18;18;1;1;38
 
8
  3;miquella-120b-3.0bpw-h6-exl2;120B;EXL2;3.0bpw;32768;Mistral;18;17;1;1;37
9
  3;lzlv_70B-GGUF;70B;GGUF;Q4_0;4096;Vicuna 1.1;18;17;1;1;37
10
  4;Mixtral_34Bx2_MoE_60B;2x34B;HF;4-bit;200000;Alpaca;18;17;1;0;36
11
+ 5;miquliz-120b-xs.gguf;120B;GGUF;IQ2_XS;32768;Mistral;18;17;0;0;35
12
+ 6;GPT-4 Turbo;n/a;API;n/a;n/a;n/a;18;16;1;1;36
13
  6;chronos007-70B-GGUF;70B;GGUF;Q4_0;4096;Alpaca;18;16;1;1;36
14
  6;SynthIA-70B-v1.5-GGUF;70B;GGUF;Q4_0;4096;SynthIA;18;16;1;1;36
 
15
  6;Gembo-v1-70b-GGUF;70B;GGUF;Q5_K_M;4096;Alpaca;18;16;1;0;35
16
  6;bagel-34b-v0.2;34B;HF;4-bit;200000;Alpaca;18;16;1;0;35
17
  7;Mixtral-8x7B-Instruct-v0.1;8x7B;HF;4-bit;32768;Mixtral;18;16;0;1;35
 
 
 
 
18
  8;dolphin-2_2-yi-34b-GGUF;34B;GGUF;Q4_0;16384;ChatML;18;15;0;0;33
19
+ 9;StellarBright-GGUF;70B;GGUF;Q4_0;4096;Vicuna 1.1;18;14;1;1;34
20
  10;Dawn-v2-70B-GGUF;70B;GGUF;Q4_0;4096;Alpaca;18;14;1;0;33
21
  10;Euryale-1.3-L2-70B-GGUF;70B;GGUF;Q4_0;4096;Alpaca;18;14;1;0;33
22
  10;bagel-dpo-34b-v0.2;34B;HF;4-bit;200000;Alpaca;18;14;1;0;33
23
  10;nontoxic-bagel-34b-v0.2;34B;HF;4-bit;200000;Alpaca;18;14;1;0;33
24
  11;sophosynthesis-70b-v1;70B;EXL2;4.85bpw;4096;Vicuna 1.1;18;13;1;1;33
 
 
25
  11;miquella-120b;120B;GGUF;IQ3_XXS;32768;Mistral;18;13;1;0;32
26
+ 12;Mixtral_11Bx2_MoE_19B;2x11B;HF;F16;200000;Alpaca;18;13;0;0;31
27
  13;GodziLLa2-70B-GGUF;70B;GGUF;Q4_0;4096;Alpaca;18;12;1;1;32
28
+ 14;miquliz-120b-v2.0-iMat.GGUF;120B;GGUF;IQ2_XS;32768;Mistral;18;11;0;0;29
29
+ 15;Samantha-1.11-70B-GGUF;70B;GGUF;Q4_0;4096;Vicuna 1.1;18;10;0;0;28
30
+ 16;miquella-120b;120B;GGUF;Q2_K;32768;Mistral;17;17;1;0;35
31
+ 17;MegaDolphin-120b-exl2;120B;EXL2;3.0bpw;4096;ChatML;17;16;1;0;34
32
+ 17;Airoboros-L2-70B-3.1.2-GGUF;70B;GGUF;Q4_K_M;4096;Llama 2 Chat;17;16;1;0;34
33
+ 18;Midnight-Miqu-70B-v1.0-GGUF;70B;GGUF;Q4_K_M;32768;Vicuna 1.1;17;16;0;0;33
34
+ 18;Gemini Pro;n/a;API;n/a;n/a;n/a;17;16;0;0;33
35
  19;miquliz-120b-v2.0-i1-GGUF;120B;GGUF;IQ1_S;32768;Mistral;17;15;0;0;32
36
  19;Nous-Hermes-2-Mixtral-8x7B-DPO-GGUF;8x7B;GGUF;Q4_K_M;32768;ChatML;17;15;0;0;32
37
  19;SauerkrautLM-UNA-SOLAR-Instruct;11B;HF;F16;4096;User-Ass.-Newlines;17;15;0;0;32
38
  19;UNA-SOLAR-10.7B-Instruct-v1.0;11B;HF;F16;4096;User-Ass.-Newlines;17;15;0;0;32
39
  20;Senku-70B-Full-GGUF;70B;GGUF;Q5_K_M;32768;ChatML;17;14;1;0;32
 
 
 
40
  21;Rogue-Rose-103b-v0.2;103B;EXL2;3.2bpw;4096;Rogue Rose;17;14;0;0;31
41
  21;laserxtral;4x7B;GGUF;Q6_K;8192;Alpaca;17;14;0;0;31
42
  21;SOLAR-10.7B-Instruct-v1.0;11B;HF;F16;4096;User-Ass.-Newlines;17;14;0;0;31
43
  22;MiquMaid-v1-70B-GGUF;70B;GGUF;Q5_K_M;32768;Alpaca;17;13;1;0;31
 
 
 
44
  22;miqu-1-70b;70B;GGUF;Q5_K_M;32768;Mistral;17;13;0;0;30
45
  22;miqu-1-70b;70B;GGUF;Q4_K_M;32768;Mistral;17;13;0;0;30
46
  22;MIstral-QUantized-70b_Miqu-1-70b-iMat.GGUF;70B;GGUF;Q4_K_S;32768;Mistral;17;13;0;0;30
47
+ 23;Midnight-Rose-70B-v2.0.3-GGUF;70B;GGUF;IQ3_XXS;4096;Vicuna 1.1;17;11;1;0;29
48
+ 24;GPT-3.5 Turbo Instruct;n/a;API;n/a;n/a;n/a;17;11;0;0;28
49
+ 24;mistral-small;n/a;API;n/a;n/a;n/a;17;11;0;0;28
50
+ 25;WestLake-7B-v2;7B;HF;F16;4096;ChatML;17;10;0;0;27
51
+ 25;SOLARC-M-10.7B;11B;HF;F16;4096;User-Ass.-Newlines;17;10;0;0;27
52
+ 26;Synthia-MoE-v3-Mixtral-8x7B;8x7B;HF;4-bit;32768;Synthia Llama 2 Chat;17;9;0;0;26
53
+ 27;Nous-Hermes-2-Mixtral-8x7B-SFT;8x7B;HF;4-bit;32768;ChatML;17;5;1;0;23
54
+ 28;miqu-1-70b-exl2;70B;EXL2;3.0bpw;32768;Mistral;16;16;0;0;32
55
+ 29;SOLAR-10.7B-Instruct-v1.0-uncensored;11B;HF;F16;4096;User-Ass.-Newlines;16;15;0;0;31
56
+ 30;bagel-dpo-8x7b-v0.2;8x7B;HF;4-bit;200000;Alpaca;16;14;1;0;31
57
+ 31;dolphin-2.2-70B-GGUF;70B;GGUF;Q4_0;4096;ChatML;16;14;0;1;31
58
  31;miqu-1-103b-i1-GGUF;103B;GGUF;IQ2_XS;32768;Mistral;16;14;0;0;30
59
  31;WestLake-7B-v2-laser;7B;HF;F16;4096;ChatML;16;14;0;0;30
60
  32;Beyonder-4x7B-v2-GGUF;4x7B;GGUF;Q8_0;8192;ChatML;16;13;1;0;30
61
  33;mistral-ft-optimized-1218;7B;HF;F16;32768;Alpaca;16;13;0;1;30
 
 
 
62
  34;SauerkrautLM-SOLAR-Instruct;11B;HF;F16;4096;User-Ass.-Newlines;16;13;0;0;29
63
  34;OpenHermes-2.5-Mistral-7B;7B;HF;F16;32768;ChatML;16;13;0;0;29
64
  35;Nous-Hermes-2-Mixtral-8x7B-SFT-GGUF;8x7B;GGUF;Q4_K_M;32768;ChatML;16;12;1;0;29
 
 
 
 
 
65
  36;SOLARC-MOE-10.7Bx4;4x11B;HF;4-bit;4096;User-Ass.-Newlines;16;12;0;0;28
66
  36;Nous-Hermes-2-SOLAR-10.7B;11B;HF;F16;4096;User-Ass.-Newlines;16;12;0;0;28
67
  36;Sakura-SOLAR-Instruct;11B;HF;F16;4096;User-Ass.-Newlines;16;12;0;0;28
68
  36;Mistral-7B-Instruct-v0.2;7B;HF;F16;32768;Mistral;16;12;0;0;28
 
 
 
69
  37;DeciLM-7B-instruct;7B;HF;F16;32768;Mistral;16;11;0;0;27
70
  37;Marcoroni-7B-v3;7B;HF;F16;32768;Alpaca;16;11;0;0;27
71
  37;SauerkrautLM-7b-HerO;7B;HF;F16;32768;ChatML;16;11;0;0;27
72
+ 38;mistral-medium;n/a;API;n/a;n/a;n/a;15;17;0;0;32
73
+ 39;mistral-ft-optimized-1227;7B;HF;F16;32768;Alpaca;15;14;0;1;30
74
+ 40;GPT-3.5 Turbo;n/a;API;n/a;n/a;n/a;15;14;0;0;29
75
+ 41;dolphin-2.5-mixtral-8x7b;8x7B;HF;4-bit;32768;ChatML;15;13;0;1;29
76
+ 42;Starling-LM-7B-alpha;7B;HF;F16;8192;OpenChat (GPT4 Correct);15;13;0;0;28
77
  43;dolphin-2.6-mistral-7b-dpo;7B;HF;F16;16384;ChatML;15;12;0;0;27
78
  44;Mixtral_7Bx2_MoE;2x7B;HF;F16;8192;ChatML;15;11;1;0;27
 
 
79
  45;Nous-Hermes-2-Mixtral-8x7B-DPO;8x7B;HF;4-bit;32768;ChatML;15;10;1;0;26
 
 
 
 
 
 
80
  46;sparsetral-16x7B-v2;16x7B;HF;F16;4096;ChatML;15;7;1;0;23
81
  47;openchat-3.5-1210;7B;HF;F16;8192;OpenChat (GPT4 Correct);15;7;0;0;22
 
82
  48;dolphin-2.7-mixtral-8x7b;8x7B;HF;4-bit;32768;ChatML;15;6;0;0;21
83
+ 49;dolphin-2.6-mixtral-8x7b;8x7B;HF;4-bit;32768;ChatML;14;12;0;0;26
84
+ 50;MixtralRPChat-ZLoss;8x7B;HF;4-bit;32768;CharGoddard;14;10;0;0;24
85
+ 51;SOLARC-MOE-10.7Bx6;6x11B;HF;4-bit;4096;User-Ass.-Newlines;13;14;0;0;27
86
+ 52;OpenHermes-2.5-neural-chat-v3-3-openchat-3.5-1210-Slerp;7B;HF;F16;32768;OpenChat (GPT4 Correct);13;13;0;0;26
87
  53;dolphin-2.8-experiment26-7b-preview;7B;HF;F16;4096;ChatML;13;8;0;0;21
88
+ 54;dolphin-2.6-mistral-7b-dpo-laser;7B;HF;F16;16384;ChatML;12;13;0;0;25
89
+ 55;sonya-medium-x8-MoE;8x11B;HF;4-bit;8192;Alpaca;12;10;0;0;22
90
  56;dolphin-2.6-mistral-7b;7B;HF;F16;32768;ChatML;10;10;0;0;20
91
+ 57;SauerkrautLM-70B-v1-GGUF;70B;GGUF;Q4_0;4096;Llama 2 Chat;9;15;0;0;24
92
  58;bagel-8x7b-v0.2;8x7B;HF;F16;200000;Alpaca;6;10;1;0;17
 
93
  59;DiscoLM_German_7b_v1-GGUF;7B;GGUF;Q8_0;8192;ChatML;6;8;0;0;14
 
94
  60;stablelm-2-zephyr-1_6b;1.6B;HF;F16;4096;Zephyr 1.6B;6;3;0;0;9
95
+ 61;gemma-7b-it-GGUF;7B;GGUF;Q8_0;2048;Gemma;5;8;0;0;13
96
+ 62;mistral-tiny;n/a;API;n/a;n/a;n/a;4;11;0;0;15
97
  63;phi-2-super;2.7B;HF;F16;2048;Mistral;0;1;0;0;1
98
  64;dolphin-2_6-phi-2;2.7B;HF;F16;2048;ChatML;0;0;0;0;0
99
  64;TinyLlama-1.1B-Chat-v1.0;1.1B;HF;F16;2048;Zephyr;0;0;0;0;0