mlm_prompt
stringlengths
24
38
masked_token
stringlengths
3
9
عاصمة دولة الجزائر هي <mask>.
الجزائر
مدينة الجزائر هي عاصمة دولة <mask>.
الجزائر
عاصمة دولة البحرين هي <mask>.
المنامة
مدينة المنامة هي عاصمة دولة <mask>.
البحرين
عاصمة دولة جيبوتي هي <mask>.
جيبوتي
مدينة جيبوتي هي عاصمة دولة <mask>.
جيبوتي
عاصمة دولة مصر هي <mask>.
القاهرة
مدينة القاهرة هي عاصمة دولة <mask>.
مصر
عاصمة دولة العراق هي <mask>.
بغداد
مدينة بغداد هي عاصمة دولة <mask>.
العراق
عاصمة دولة الأردن هي <mask>.
عمان
مدينة عمان هي عاصمة دولة <mask>.
الأردن
عاصمة دولة الكويت هي <mask>.
الكويت
مدينة الكويت هي عاصمة دولة <mask>.
الكويت
عاصمة دولة لبنان هي <mask>.
بيروت
مدينة بيروت هي عاصمة دولة <mask>.
لبنان
عاصمة دولة ليبيا هي <mask>.
طرابلس
مدينة طرابلس هي عاصمة دولة <mask>.
ليبيا
عاصمة دولة موريتانيا هي <mask>.
نواكشوط
مدينة نواكشوط هي عاصمة دولة <mask>.
موريتانيا
عاصمة دولة المغرب هي <mask>.
الرباط
مدينة الرباط هي عاصمة دولة <mask>.
المغرب
عاصمة دولة عمان هي <mask>.
مسقط
مدينة مسقط هي عاصمة دولة <mask>.
عمان
عاصمة دولة فلسطين هي <mask>.
القدس
مدينة القدس هي عاصمة دولة <mask>.
فلسطين
عاصمة دولة قطر هي <mask>.
الدوحة
مدينة الدوحة هي عاصمة دولة <mask>.
قطر
عاصمة دولة السعودية هي <mask>.
الرياض
مدينة الرياض هي عاصمة دولة <mask>.
السعودية
عاصمة دولة الصومال هي <mask>.
مقديشو
مدينة مقديشو هي عاصمة دولة <mask>.
الصومال
عاصمة دولة السودان هي <mask>.
الخرطوم
مدينة الخرطوم هي عاصمة دولة <mask>.
السودان
عاصمة دولة سوريا هي <mask>.
دمشق
مدينة دمشق هي عاصمة دولة <mask>.
سوريا
عاصمة دولة تونس هي <mask>.
تونس
مدينة تونس هي عاصمة دولة <mask>.
تونس
عاصمة دولة اليمن هي <mask>.
صنعاء
مدينة صنعاء هي عاصمة دولة <mask>.
اليمن
أحب الشعب الجزائري و أحب دولة <mask>.
الجزائر
أحب دولة الجزائر و أحب الشعب <mask>.
الجزائري
أحب الشعب البحريني و أحب دولة <mask>.
البحرين
أحب دولة البحرين و أحب الشعب <mask>.
البحريني
أحب الشعب الجيبوتي و أحب دولة <mask>.
جيبوتي
أحب دولة جيبوتي و أحب الشعب <mask>.
الجيبوتي
أحب الشعب المصري و أحب دولة <mask>.
مصر
أحب دولة مصر و أحب الشعب <mask>.
المصري
أحب الشعب العراقي و أحب دولة <mask>.
العراق
أحب دولة العراق و أحب الشعب <mask>.
العراقي
أحب الشعب الأردني و أحب دولة <mask>.
الأردن
أحب دولة الأردن و أحب الشعب <mask>.
الأردني
أحب الشعب الكويتي و أحب دولة <mask>.
الكويت
أحب دولة الكويت و أحب الشعب <mask>.
الكويتي
أحب الشعب اللبناني و أحب دولة <mask>.
لبنان
أحب دولة لبنان و أحب الشعب <mask>.
اللبناني
أحب الشعب الليبي و أحب دولة <mask>.
ليبيا
أحب دولة ليبيا و أحب الشعب <mask>.
الليبي
أحب الشعب موريتاني و أحب دولة <mask>.
موريتانيا
أحب دولة موريتانيا و أحب الشعب <mask>.
موريتاني
أحب الشعب المغربي و أحب دولة <mask>.
المغرب
أحب دولة المغرب و أحب الشعب <mask>.
المغربي
أحب الشعب العماني و أحب دولة <mask>.
عمان
أحب دولة عمان و أحب الشعب <mask>.
العماني
أحب الشعب الفلسطيني و أحب دولة <mask>.
فلسطين
أحب دولة فلسطين و أحب الشعب <mask>.
الفلسطيني
أحب الشعب القطري و أحب دولة <mask>.
قطر
أحب دولة قطر و أحب الشعب <mask>.
القطري
أحب الشعب السعودي و أحب دولة <mask>.
السعودية
أحب دولة السعودية و أحب الشعب <mask>.
السعودي
أحب الشعب الصومالي و أحب دولة <mask>.
الصومال
أحب دولة الصومال و أحب الشعب <mask>.
الصومالي
أحب الشعب السوداني و أحب دولة <mask>.
السودان
أحب دولة السودان و أحب الشعب <mask>.
السوداني
أحب الشعب السوري و أحب دولة <mask>.
سوريا
أحب دولة سوريا و أحب الشعب <mask>.
السوري
أحب الشعب التونسي و أحب دولة <mask>.
تونس
أحب دولة تونس و أحب الشعب <mask>.
التونسي
أحب الشعب اليمني و أحب دولة <mask>.
اليمن
أحب دولة اليمن و أحب الشعب <mask>.
اليمني
الدينار هي عملة دولة <mask>.
الجزائر
عملة دولة الجزائر هي <mask>.
الدينار
الدينار هي عملة دولة <mask>.
البحرين
عملة دولة البحرين هي <mask>.
الدينار
الفرنك هي عملة دولة <mask>.
جيبوتي
عملة دولة جيبوتي هي <mask>.
الفرنك
الجنيه هي عملة دولة <mask>.
مصر
عملة دولة مصر هي <mask>.
الجنيه
الدينار هي عملة دولة <mask>.
العراق
عملة دولة العراق هي <mask>.
الدينار
الدينار هي عملة دولة <mask>.
الأردن
عملة دولة الأردن هي <mask>.
الدينار
الدينار هي عملة دولة <mask>.
الكويت
عملة دولة الكويت هي <mask>.
الدينار
الجنيه هي عملة دولة <mask>.
لبنان
عملة دولة لبنان هي <mask>.
الجنيه
الدينار هي عملة دولة <mask>.
ليبيا
عملة دولة ليبيا هي <mask>.
الدينار
الأوقية هي عملة دولة <mask>.
موريتانيا
عملة دولة موريتانيا هي <mask>.
الأوقية

Dataset Card for "Masked Arab States Dataset (MASD)"

This dataset is created using 20 Arab States1 with their corresponding capital cities, nationalities, currencies, and on which continents they are located, consisting of four categories: country-capital prompts, country-currency prompts, country-nationality prompts, and country-continent prompts. Each prompts category has 40 masked prompts, and the total number of masked prompts in the MASD dataset is 160. This dataset is used to evaluate these Arabic Masked Language Models (MLMs):

  1. SaiedAlshahrani/arwiki_20230101_roberta_mlm_bots.
  2. SaiedAlshahrani/arwiki_20230101_roberta_mlm_nobots.
  3. SaiedAlshahrani/arzwiki_20230101_roberta_mlm.
  4. SaiedAlshahrani/arywiki_20230101_roberta_mlm_bots.
  5. SaiedAlshahrani/arywiki_20230101_roberta_mlm_nobots.

For more details about the dataset, please read and cite our paper:

@inproceedings{alshahrani-etal-2023-performance,
    title = "{Performance Implications of Using Unrepresentative Corpora in {A}rabic Natural Language Processing}",
    author = "Alshahrani, Saied  and Alshahrani, Norah  and Dey, Soumyabrata  and Matthews, Jeanna",
    booktitle = "Proceedings of the The First Arabic Natural Language Processing Conference (ArabicNLP 2023)",
    month = December,
    year = "2023",
    address = "Singapore (Hybrid)",
    publisher = "Association for Computational Linguistics",
    url = "https://aclanthology.org/2023.arabicnlp-1.19",
    doi = "10.18653/v1/2023.arabicnlp-1.19",
    pages = "218--231",
    abstract = "Wikipedia articles are a widely used source of training data for Natural Language Processing (NLP) research, particularly as corpora for low-resource languages like Arabic. However, it is essential to understand the extent to which these corpora reflect the representative contributions of native speakers, especially when many entries in a given language are directly translated from other languages or automatically generated through automated mechanisms. In this paper, we study the performance implications of using inorganic corpora that are not representative of native speakers and are generated through automated techniques such as bot generation or automated template-based translation. The case of the Arabic Wikipedia editions gives a unique case study of this since the Moroccan Arabic Wikipedia edition (ARY) is small but representative, the Egyptian Arabic Wikipedia edition (ARZ) is large but unrepresentative, and the Modern Standard Arabic Wikipedia edition (AR) is both large and more representative. We intrinsically evaluate the performance of two main NLP upstream tasks, namely word representation and language modeling, using word analogy evaluations and fill-mask evaluations using our two newly created datasets: Arab States Analogy Dataset (ASAD) and Masked Arab States Dataset (MASD). We demonstrate that for good NLP performance, we need both large and organic corpora; neither alone is sufficient. We show that producing large corpora through automated means can be a counter-productive, producing models that both perform worse and lack cultural richness and meaningful representation of the Arabic language and its native speakers.",
}

1. We only drop two Arab states: the United Arab Emirates (الإمارات العربية المتحدة) and Comoros (جزر القمر), because they or their capital cities are written as open compound words (two words), which cannot be directly handled by the word embedding models, like Abu Dhabi (أبو ظبي).

Downloads last month
56

Models trained or fine-tuned on SaiedAlshahrani/MASD