RuWiki-Good / README.md
Alvant
add info about dataset
8499941
|
raw
history blame
3.42 kB
metadata
license: other
license_name: topicnet
license_link: >-
  https://github.com/machine-intelligence-laboratory/TopicNet/blob/master/LICENSE.txt

RuWiki-Good

Отдельные статьи из дампа русской Википедии за 20200301. Подвыборка состоит из статей, относящихся к числу "добротных", "хороших" или "избранных" (см. https://ru.wikipedia.org/wiki/Википедия:Добротные_статьи).

Измеряемые характеристики датасета:

  • D — число документов
  • <имя модальности> W — размер словаря данной модальности (количество уникальных токенов)
  • <имя модальности> len D — средняя длина документа в терминах этой модальности (количество слов)
  • <имя модальности> len D uniq — средняя длина документа в уникальных терминах этой модальности (количество уникальных слов)
D @categories W @categories len D @categories len D uniq @lemmatized W @lemmatized len D @lemmatized len D uniq @ngramms W @ngramms len D @ngramms len D uniq
value 8603 44493 5.1718 5.17296 1.66434e+07 1934.6 721.389 3.11727e+06 362.347 287.695

Информация о длинах документов в расчёте на модальность:

len_total@categories len_total@lemmatized len_total@ngramms len_uniq@categories len_uniq@lemmatized len_uniq@ngramms
mean 5.17296 1934.6 362.347 5.17296 721.389 287.695
std 4.0102 2065.78 384.164 4.0102 596.947 292.717
min 0 55 8 0 35 8
25% 2 593 112.5 2 296 96
50% 4 1223 229 4 540 189
75% 7 2447 458 7 943 365
max 51 17472 3335 51 4423 2459