ChuckMcSneed
commited on
Commit
•
b586f8e
1
Parent(s):
547ebed
Upload 2 files
Browse files- wolfram-bench.png +2 -2
- wolfram.csv +79 -62
wolfram-bench.png
CHANGED
Git LFS Details
|
Git LFS Details
|
wolfram.csv
CHANGED
@@ -1,5 +1,6 @@
|
|
1 |
Rank;Model;Size;Format;Quant;Context;Prompt;1st Score;2nd Score;OK;+/-;Total
|
2 |
-
1;GPT-4;
|
|
|
3 |
1;goliath-120b-GGUF;120B;GGUF;Q2_K;4096;Vicuna 1.1;18;18;1;1;38
|
4 |
1;Tess-XL-v1.0-GGUF;120B;GGUF;Q2_K;4096;Synthia;18;18;1;1;38
|
5 |
1;Nous-Capybara-34B-GGUF;34B;GGUF;Q4_0;16384;Vicuna 1.1;18;18;1;1;38
|
@@ -7,76 +8,92 @@ Rank;Model;Size;Format;Quant;Context;Prompt;1st Score;2nd Score;OK;+/-;Total
|
|
7 |
3;miquella-120b-3.0bpw-h6-exl2;120B;EXL2;3.0bpw;32768;Mistral;18;17;1;1;37
|
8 |
3;lzlv_70B-GGUF;70B;GGUF;Q4_0;4096;Vicuna 1.1;18;17;1;1;37
|
9 |
4;Mixtral_34Bx2_MoE_60B;2x34B;HF;4-bit;200000;Alpaca;18;17;1;0;36
|
10 |
-
|
11 |
-
|
12 |
-
|
|
|
|
|
13 |
6;bagel-34b-v0.2;34B;HF;4-bit;200000;Alpaca;18;16;1;0;35
|
14 |
7;Mixtral-8x7B-Instruct-v0.1;8x7B;HF;4-bit;32768;Mixtral;18;16;0;1;35
|
15 |
-
|
16 |
9;StellarBright-GGUF;70B;GGUF;Q4_0;4096;Vicuna 1.1;18;14;1;1;34
|
17 |
-
|
18 |
-
|
19 |
8;dolphin-2_2-yi-34b-GGUF;34B;GGUF;Q4_0;16384;ChatML;18;15;0;0;33
|
20 |
10;Dawn-v2-70B-GGUF;70B;GGUF;Q4_0;4096;Alpaca;18;14;1;0;33
|
21 |
10;Euryale-1.3-L2-70B-GGUF;70B;GGUF;Q4_0;4096;Alpaca;18;14;1;0;33
|
22 |
10;bagel-dpo-34b-v0.2;34B;HF;4-bit;200000;Alpaca;18;14;1;0;33
|
23 |
10;nontoxic-bagel-34b-v0.2;34B;HF;4-bit;200000;Alpaca;18;14;1;0;33
|
24 |
11;sophosynthesis-70b-v1;70B;EXL2;4.85bpw;4096;Vicuna 1.1;18;13;1;1;33
|
25 |
-
|
|
|
26 |
11;miquella-120b;120B;GGUF;IQ3_XXS;32768;Mistral;18;13;1;0;32
|
27 |
13;GodziLLa2-70B-GGUF;70B;GGUF;Q4_0;4096;Alpaca;18;12;1;1;32
|
28 |
-
|
29 |
-
|
30 |
-
|
31 |
-
|
|
|
|
|
|
|
32 |
12;Mixtral_11Bx2_MoE_19B;2x11B;HF;F16;200000;Alpaca;18;13;0;0;31
|
33 |
-
|
34 |
-
|
35 |
-
|
36 |
-
|
37 |
-
|
38 |
-
|
39 |
-
|
40 |
-
|
41 |
-
|
42 |
-
|
43 |
-
|
44 |
-
|
45 |
-
|
46 |
-
|
47 |
-
|
48 |
-
|
49 |
-
|
50 |
-
|
51 |
-
|
52 |
-
|
53 |
-
|
54 |
-
|
55 |
-
|
56 |
-
|
57 |
-
|
58 |
-
|
59 |
-
|
60 |
-
|
61 |
-
|
62 |
-
|
63 |
-
|
64 |
-
|
65 |
-
|
66 |
-
|
67 |
-
|
68 |
-
|
69 |
-
|
70 |
-
|
71 |
-
|
72 |
-
|
73 |
-
|
74 |
-
|
75 |
-
|
76 |
-
50;
|
77 |
-
|
78 |
-
|
79 |
-
|
80 |
-
|
81 |
-
|
82 |
-
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
Rank;Model;Size;Format;Quant;Context;Prompt;1st Score;2nd Score;OK;+/-;Total
|
2 |
+
1;GPT-4;GPT-4;API;n/a;n/a;n/a;18;18;1;1;38
|
3 |
+
1;miquliz-120b-v2.0;120B;EXL2;3.0bpw;32768;Mistral;18;18;1;1;38
|
4 |
1;goliath-120b-GGUF;120B;GGUF;Q2_K;4096;Vicuna 1.1;18;18;1;1;38
|
5 |
1;Tess-XL-v1.0-GGUF;120B;GGUF;Q2_K;4096;Synthia;18;18;1;1;38
|
6 |
1;Nous-Capybara-34B-GGUF;34B;GGUF;Q4_0;16384;Vicuna 1.1;18;18;1;1;38
|
|
|
8 |
3;miquella-120b-3.0bpw-h6-exl2;120B;EXL2;3.0bpw;32768;Mistral;18;17;1;1;37
|
9 |
3;lzlv_70B-GGUF;70B;GGUF;Q4_0;4096;Vicuna 1.1;18;17;1;1;37
|
10 |
4;Mixtral_34Bx2_MoE_60B;2x34B;HF;4-bit;200000;Alpaca;18;17;1;0;36
|
11 |
+
6;GPT-4 Turbo;GPT-4;API;n/a;n/a;n/a;18;16;1;1;36
|
12 |
+
6;chronos007-70B-GGUF;70B;GGUF;Q4_0;4096;Alpaca;18;16;1;1;36
|
13 |
+
6;SynthIA-70B-v1.5-GGUF;70B;GGUF;Q4_0;4096;SynthIA;18;16;1;1;36
|
14 |
+
5;miquliz-120b-xs.gguf;120B;GGUF;IQ2_XS;32768;Mistral;18;17;0;0;35
|
15 |
+
6;Gembo-v1-70b-GGUF;70B;GGUF;Q5_K_M;4096;Alpaca;18;16;1;0;35
|
16 |
6;bagel-34b-v0.2;34B;HF;4-bit;200000;Alpaca;18;16;1;0;35
|
17 |
7;Mixtral-8x7B-Instruct-v0.1;8x7B;HF;4-bit;32768;Mixtral;18;16;0;1;35
|
18 |
+
16;miquella-120b;120B;GGUF;Q2_K;32768;Mistral;17;17;1;0;35
|
19 |
9;StellarBright-GGUF;70B;GGUF;Q4_0;4096;Vicuna 1.1;18;14;1;1;34
|
20 |
+
17;MegaDolphin-120b-exl2;120B;EXL2;3.0bpw;4096;ChatML;17;16;1;0;34
|
21 |
+
17;Airoboros-L2-70B-3.1.2-GGUF;70B;GGUF;Q4_K_M;4096;Llama 2 Chat;17;16;1;0;34
|
22 |
8;dolphin-2_2-yi-34b-GGUF;34B;GGUF;Q4_0;16384;ChatML;18;15;0;0;33
|
23 |
10;Dawn-v2-70B-GGUF;70B;GGUF;Q4_0;4096;Alpaca;18;14;1;0;33
|
24 |
10;Euryale-1.3-L2-70B-GGUF;70B;GGUF;Q4_0;4096;Alpaca;18;14;1;0;33
|
25 |
10;bagel-dpo-34b-v0.2;34B;HF;4-bit;200000;Alpaca;18;14;1;0;33
|
26 |
10;nontoxic-bagel-34b-v0.2;34B;HF;4-bit;200000;Alpaca;18;14;1;0;33
|
27 |
11;sophosynthesis-70b-v1;70B;EXL2;4.85bpw;4096;Vicuna 1.1;18;13;1;1;33
|
28 |
+
18;Midnight-Miqu-70B-v1.0-GGUF;70B;GGUF;Q4_K_M;32768;Vicuna 1.1;17;16;0;0;33
|
29 |
+
18;Gemini Pro;Gemini;API;n/a;n/a;n/a;17;16;0;0;33
|
30 |
11;miquella-120b;120B;GGUF;IQ3_XXS;32768;Mistral;18;13;1;0;32
|
31 |
13;GodziLLa2-70B-GGUF;70B;GGUF;Q4_0;4096;Alpaca;18;12;1;1;32
|
32 |
+
19;miquliz-120b-v2.0-i1-GGUF;120B;GGUF;IQ1_S;32768;Mistral;17;15;0;0;32
|
33 |
+
19;Nous-Hermes-2-Mixtral-8x7B-DPO-GGUF;8x7B;GGUF;Q4_K_M;32768;ChatML;17;15;0;0;32
|
34 |
+
19;SauerkrautLM-UNA-SOLAR-Instruct;11B;HF;F16;4096;User-Ass.-Newlines;17;15;0;0;32
|
35 |
+
19;UNA-SOLAR-10.7B-Instruct-v1.0;11B;HF;F16;4096;User-Ass.-Newlines;17;15;0;0;32
|
36 |
+
20;Senku-70B-Full-GGUF;70B;GGUF;Q5_K_M;32768;ChatML;17;14;1;0;32
|
37 |
+
28;miqu-1-70b-exl2;70B;EXL2;3.0bpw;32768;Mistral;16;16;0;0;32
|
38 |
+
38;mistral-medium;Mistral;API;n/a;n/a;n/a;15;17;0;0;32
|
39 |
12;Mixtral_11Bx2_MoE_19B;2x11B;HF;F16;200000;Alpaca;18;13;0;0;31
|
40 |
+
21;Rogue-Rose-103b-v0.2;103B;EXL2;3.2bpw;4096;Rogue Rose;17;14;0;0;31
|
41 |
+
21;laserxtral;4x7B;GGUF;Q6_K;8192;Alpaca;17;14;0;0;31
|
42 |
+
21;SOLAR-10.7B-Instruct-v1.0;11B;HF;F16;4096;User-Ass.-Newlines;17;14;0;0;31
|
43 |
+
22;MiquMaid-v1-70B-GGUF;70B;GGUF;Q5_K_M;32768;Alpaca;17;13;1;0;31
|
44 |
+
29;SOLAR-10.7B-Instruct-v1.0-uncensored;11B;HF;F16;4096;User-Ass.-Newlines;16;15;0;0;31
|
45 |
+
30;bagel-dpo-8x7b-v0.2;8x7B;HF;4-bit;200000;Alpaca;16;14;1;0;31
|
46 |
+
31;dolphin-2.2-70B-GGUF;70B;GGUF;Q4_0;4096;ChatML;16;14;0;1;31
|
47 |
+
22;miqu-1-70b;70B;GGUF;Q5_K_M;32768;Mistral;17;13;0;0;30
|
48 |
+
22;miqu-1-70b;70B;GGUF;Q4_K_M;32768;Mistral;17;13;0;0;30
|
49 |
+
22;MIstral-QUantized-70b_Miqu-1-70b-iMat.GGUF;70B;GGUF;Q4_K_S;32768;Mistral;17;13;0;0;30
|
50 |
+
31;miqu-1-103b-i1-GGUF;103B;GGUF;IQ2_XS;32768;Mistral;16;14;0;0;30
|
51 |
+
31;WestLake-7B-v2-laser;7B;HF;F16;4096;ChatML;16;14;0;0;30
|
52 |
+
32;Beyonder-4x7B-v2-GGUF;4x7B;GGUF;Q8_0;8192;ChatML;16;13;1;0;30
|
53 |
+
33;mistral-ft-optimized-1218;7B;HF;F16;32768;Alpaca;16;13;0;1;30
|
54 |
+
39;mistral-ft-optimized-1227;7B;HF;F16;32768;Alpaca;15;14;0;1;30
|
55 |
+
14;miquliz-120b-v2.0-iMat.GGUF;120B;GGUF;IQ2_XS;32768;Mistral;18;11;0;0;29
|
56 |
+
23;Midnight-Rose-70B-v2.0.3-GGUF;70B;GGUF;IQ3_XXS;4096;Vicuna 1.1;17;11;1;0;29
|
57 |
+
34;SauerkrautLM-SOLAR-Instruct;11B;HF;F16;4096;User-Ass.-Newlines;16;13;0;0;29
|
58 |
+
34;OpenHermes-2.5-Mistral-7B;7B;HF;F16;32768;ChatML;16;13;0;0;29
|
59 |
+
35;Nous-Hermes-2-Mixtral-8x7B-SFT-GGUF;8x7B;GGUF;Q4_K_M;32768;ChatML;16;12;1;0;29
|
60 |
+
40;GPT-3.5 Turbo;GPT-3.5;API;n/a;n/a;n/a;15;14;0;0;29
|
61 |
+
41;dolphin-2.5-mixtral-8x7b;8x7B;HF;4-bit;32768;ChatML;15;13;0;1;29
|
62 |
+
15;Samantha-1.11-70B-GGUF;70B;GGUF;Q4_0;4096;Vicuna 1.1;18;10;0;0;28
|
63 |
+
24;GPT-3.5 Turbo Instruct;GPT-3.5;API;n/a;n/a;n/a;17;11;0;0;28
|
64 |
+
24;mistral-small;Mistral;API;n/a;n/a;n/a;17;11;0;0;28
|
65 |
+
36;SOLARC-MOE-10.7Bx4;4x11B;HF;4-bit;4096;User-Ass.-Newlines;16;12;0;0;28
|
66 |
+
36;Nous-Hermes-2-SOLAR-10.7B;11B;HF;F16;4096;User-Ass.-Newlines;16;12;0;0;28
|
67 |
+
36;Sakura-SOLAR-Instruct;11B;HF;F16;4096;User-Ass.-Newlines;16;12;0;0;28
|
68 |
+
36;Mistral-7B-Instruct-v0.2;7B;HF;F16;32768;Mistral;16;12;0;0;28
|
69 |
+
42;Starling-LM-7B-alpha;7B;HF;F16;8192;OpenChat (GPT4 Correct);15;13;0;0;28
|
70 |
+
25;WestLake-7B-v2;7B;HF;F16;4096;ChatML;17;10;0;0;27
|
71 |
+
25;SOLARC-M-10.7B;11B;HF;F16;4096;User-Ass.-Newlines;17;10;0;0;27
|
72 |
+
37;DeciLM-7B-instruct;7B;HF;F16;32768;Mistral;16;11;0;0;27
|
73 |
+
37;Marcoroni-7B-v3;7B;HF;F16;32768;Alpaca;16;11;0;0;27
|
74 |
+
37;SauerkrautLM-7b-HerO;7B;HF;F16;32768;ChatML;16;11;0;0;27
|
75 |
+
43;dolphin-2.6-mistral-7b-dpo;7B;HF;F16;16384;ChatML;15;12;0;0;27
|
76 |
+
44;Mixtral_7Bx2_MoE;2x7B;HF;F16;8192;ChatML;15;11;1;0;27
|
77 |
+
51;SOLARC-MOE-10.7Bx6;6x11B;HF;4-bit;4096;User-Ass.-Newlines;13;14;0;0;27
|
78 |
+
26;Synthia-MoE-v3-Mixtral-8x7B;8x7B;HF;4-bit;32768;Synthia Llama 2 Chat;17;9;0;0;26
|
79 |
+
45;Nous-Hermes-2-Mixtral-8x7B-DPO;8x7B;HF;4-bit;32768;ChatML;15;10;1;0;26
|
80 |
+
49;dolphin-2.6-mixtral-8x7b;8x7B;HF;4-bit;32768;ChatML;14;12;0;0;26
|
81 |
+
52;OpenHermes-2.5-neural-chat-v3-3-openchat-3.5-1210-Slerp;7B;HF;F16;32768;OpenChat (GPT4 Correct);13;13;0;0;26
|
82 |
+
54;dolphin-2.6-mistral-7b-dpo-laser;7B;HF;F16;16384;ChatML;12;13;0;0;25
|
83 |
+
50;MixtralRPChat-ZLoss;8x7B;HF;4-bit;32768;CharGoddard;14;10;0;0;24
|
84 |
+
57;SauerkrautLM-70B-v1-GGUF;70B;GGUF;Q4_0;4096;Llama 2 Chat;9;15;0;0;24
|
85 |
+
27;Nous-Hermes-2-Mixtral-8x7B-SFT;8x7B;HF;4-bit;32768;ChatML;17;5;1;0;23
|
86 |
+
46;sparsetral-16x7B-v2;16x7B;HF;F16;4096;ChatML;15;7;1;0;23
|
87 |
+
47;openchat-3.5-1210;7B;HF;F16;8192;OpenChat (GPT4 Correct);15;7;0;0;22
|
88 |
+
55;sonya-medium-x8-MoE;8x11B;HF;4-bit;8192;Alpaca;12;10;0;0;22
|
89 |
+
48;dolphin-2.7-mixtral-8x7b;8x7B;HF;4-bit;32768;ChatML;15;6;0;0;21
|
90 |
+
53;dolphin-2.8-experiment26-7b-preview;7B;HF;F16;4096;ChatML;13;8;0;0;21
|
91 |
+
56;dolphin-2.6-mistral-7b;7B;HF;F16;32768;ChatML;10;10;0;0;20
|
92 |
+
58;bagel-8x7b-v0.2;8x7B;HF;F16;200000;Alpaca;6;10;1;0;17
|
93 |
+
62;mistral-tiny;Mistral;API;n/a;n/a;n/a;4;11;0;0;15
|
94 |
+
59;DiscoLM_German_7b_v1-GGUF;7B;GGUF;Q8_0;8192;ChatML;6;8;0;0;14
|
95 |
+
61;gemma-7b-it-GGUF;7B;GGUF;Q8_0;2048;Gemma;5;8;0;0;13
|
96 |
+
60;stablelm-2-zephyr-1_6b;1.6B;HF;F16;4096;Zephyr 1.6B;6;3;0;0;9
|
97 |
+
63;phi-2-super;2.7B;HF;F16;2048;Mistral;0;1;0;0;1
|
98 |
+
64;dolphin-2_6-phi-2;2.7B;HF;F16;2048;ChatML;0;0;0;0;0
|
99 |
+
64;TinyLlama-1.1B-Chat-v1.0;1.1B;HF;F16;2048;Zephyr;0;0;0;0;0
|