Spaces:
Running
Running
[ | |
{ | |
"Model": "llama-3.1-8b", | |
"CR": "44.0", | |
"S-Acc": "11.2", | |
"EM": "0.0", | |
"PM-0.5": "1.0", | |
"Tokens": "2122" | |
}, | |
{ | |
"Model": "llama-3.1-70b", | |
"CR": "82.0", | |
"S-Acc": "27.7", | |
"EM": "0.0", | |
"PM-0.5": "12.0", | |
"Tokens": "1498" | |
}, | |
{ | |
"Model": "llama-3.3-70b", | |
"CR": "99.0", | |
"S-Acc": "29.0", | |
"EM": "0.0", | |
"PM-0.5": "13.0", | |
"Tokens": "918" | |
}, | |
{ | |
"Model": "mistral-7b", | |
"CR": "66.0", | |
"S-Acc": "6.6", | |
"EM": "0.0", | |
"PM-0.5": "1.0", | |
"Tokens": "2336" | |
}, | |
{ | |
"Model": "mistral-small-22b", | |
"CR": "97.0", | |
"S-Acc": "26.9", | |
"EM": "0.0", | |
"PM-0.5": "6.0", | |
"Tokens": "1614" | |
}, | |
{ | |
"Model": "mistral-large-123b", | |
"CR": "98.0", | |
"S-Acc": "24.7", | |
"EM": "0.0", | |
"PM-0.5": "9.0", | |
"Tokens": "1565" | |
}, | |
{ | |
"Model": "qwen-2.5-7b", | |
"CR": "98.0", | |
"S-Acc": "21.9", | |
"EM": "0.0", | |
"PM-0.5": "4.0", | |
"Tokens": "1851" | |
}, | |
{ | |
"Model": "qwen-2.5-32b", | |
"CR": "95.0", | |
"S-Acc": "28.4", | |
"EM": "0.0", | |
"PM-0.5": "14.0", | |
"Tokens": "1197" | |
}, | |
{ | |
"Model": "qwen-2.5-72b", | |
"CR": "94.0", | |
"S-Acc": "30.9", | |
"EM": "0.0", | |
"PM-0.5": "13.0", | |
"Tokens": "1756" | |
}, | |
{ | |
"Model": "qwq-32b", | |
"CR": "33.0", | |
"S-Acc": "7.5", | |
"EM": "0.0", | |
"PM-0.5": "8.0", | |
"Tokens": "6078" | |
}, | |
{ | |
"Model": "deepseek-R1", | |
"CR": "100.0", | |
"S-Acc": "47.3", | |
"EM": "7.0", | |
"PM-0.5": "42.0", | |
"Tokens": "11422" | |
}, | |
{ | |
"Model": "gemini-2.0-exp", | |
"CR": "92.0", | |
"S-Acc": "34.2", | |
"EM": "0.0", | |
"PM-0.5": "17.0", | |
"Tokens": "2717" | |
}, | |
{ | |
"Model": "gemini-2.0-thinking", | |
"CR": "96.0", | |
"S-Acc": "34.4", | |
"EM": "0.0", | |
"PM-0.5": "23.0", | |
"Tokens": "3385" | |
}, | |
{ | |
"Model": "openai-gpt-4o", | |
"CR": "99.0", | |
"S-Acc": "31.1", | |
"EM": "0.0", | |
"PM-0.5": "14.0", | |
"Tokens": "1165" | |
}, | |
{ | |
"Model": "openai-o1-mini", | |
"CR": "96.0", | |
"S-Acc": "34.3", | |
"EM": "2.0", | |
"PM-0.5": "21.0", | |
"Tokens": "13255" | |
}, | |
{ | |
"Model": "openai-o1-preview", | |
"CR": "97.0", | |
"S-Acc": "38.8", | |
"EM": "13.0", | |
"PM-0.5": "38.0", | |
"Tokens": "13595" | |
} | |
] |