File size: 5,267 Bytes
fce2ca3 |
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87 88 89 90 91 92 93 94 95 96 97 98 99 100 101 102 103 104 105 106 107 108 109 110 111 112 113 |
from datasets import load_dataset
import datasets
import os
dataset = load_dataset('BaSalam/persian-mmlu')
df = dataset['train'].to_pandas()
task_category = list(set(dataset['train']['final_category_fa']))
english_name_to_persian_name_list = {
'statistics_and_probability': ['آمار و احتمال دوره دوم متوسطه'],
'analytics': ['استعداد تحلیلی دوره اول متوسطه'],
'economy': ['اقتصاد دوره دوم متوسطه'],
'history': ['تاریخ دوره دوم متوسطه'],
'islamic_life': [
'دین و زندگی دوره دوم متوسطه',
'تعلیم و تربیت اسلامی دوره دوم ابتدایی',
'تعلیم و تربیت اسلامی دوره اول متوسطه',
'تعلیم و تربیت اسلامی دوره اول ابتدایی'
],
'sociology': ['جامعه شناسی دوره دوم متوسطه'],
'geography': ['جغرافیا دوره دوم متوسطه'],
'logic': ['منطق دوره دوم متوسطه'],
'psychology': ['روانشناسی دوره دوم متوسطه'],
'math': [
'ریاضی دوره دوم متوسطه',
'ریاضی دوره اول متوسطه',
'ریاضی دوره دوم ابتدایی',
'ریاضی دوره اول ابتدایی',
'ریاضی و آمار دوره دوم متوسطه',
'حسابان دوره دوم متوسطه'
],
'discrete_math': ['ریاضیات گسسته دوره دوم متوسطه'],
'persian_literature': [
'زبان و ادبیات فارسی دوره اول متوسطه',
'زبان و ادبیات فارسی دوره دوم ابتدایی',
'زبان و ادبیات فارسی دوره دوم متوسطه',
'زبان و ادبیات فارسی دوره اول ابتدایی'
],
'geology': ['زمین شناسی دوره دوم متوسطه'],
'biology': ['زیست شناسی دوره دوم متوسطه'],
'chemistry': ['شیمی دوره دوم متوسطه'],
'social_studies': [
'مطالعات اجتماعی دوره اول ابتدایی',
'مطالعات اجتماعی دوره اول متوسطه',
'مطالعات اجتماعی دوره دوم ابتدایی'
],
'science': [
'علوم تجربی دوره اول ابتدایی',
'علوم تجربی دوره اول متوسطه',
'علوم تجربی دوره دوم ابتدایی'
],
'philosophy': ['فلسفه دوره دوم متوسطه'],
'physics': ['فیزیک دوره دوم متوسطه'],
'geometry': ['هندسه دوره دوم متوسطه'],
'intelligence': ['سرعت و دقت دوره دوم ابتدایی',
'هوش کلامی و ادبی دوره دوم ابتدایی',
'هوش ریاضی و منطقی دوره دوم ابتدایی'
],
}
df['options'] = df.apply(lambda row: [row['Choice 1'], row['Choice 2'], row['Choice 3'], row['Choice 4']], axis=1)
df['label'] = df.apply(lambda row: int(row['Key'] - 1), axis=1)
df.rename(columns={'Question Body': 'question'}, inplace=True)
columns = ['question', 'options', 'label']
# df = df[columns]
tasks = {}
for task, group_category in english_name_to_persian_name_list.items():
group_df = df[columns][df['final_category_fa'].isin(group_category)]
group_dict = group_df.to_dict(orient='records')
tasks[task] = group_dict
tasks['all'] = df[columns].to_dict(orient='records')
class PersianMMLU(datasets.GeneratorBasedBuilder):
BUILDER_CONFIGS = [
datasets.BuilderConfig(
name=sub, version=datasets.Version("1.0.0"), description=f"MMLU Subject {sub}"
)
for sub in tasks.keys()
]
def _info(self):
return datasets.DatasetInfo(
description="Khayyam Challenge",
features=datasets.Features({
"question": datasets.Value("string"),
'options': datasets.Sequence(datasets.Value("string")),
"label": datasets.Value("int32")
}),
supervised_keys=None,
homepage="https://arxiv.org/abs/2404.06644",
citation="""@article{ghahroodi2024khayyam,
title={Khayyam Challenge (PersianMMLU): Is Your LLM Truly Wise to The Persian Language?},
author={Ghahroodi, Omid and Nouri, Marzia and Sanian, Mohammad Vali and Sahebi, Alireza and Dastgheib, Doratossadat and Asgari, Ehsaneddin and Baghshah, Mahdieh Soleymani and Rohban, Mohammad Hossein},
journal={arXiv preprint arXiv:2404.06644},
year={2024}
}"""
)
def _split_generators(self, dl_manager):
return [
datasets.SplitGenerator(
name=datasets.Split.TEST,
gen_kwargs={"questions": tasks[self.config.name]}
)
]
def _generate_examples(self, questions):
for ind, question in enumerate(questions):
yield ind, {"question": question["question"], 'options': question['options'], "label": question['label']}
|