File size: 3,415 Bytes
dad8880
 
 
 
 
 
8499941
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
---
license: other
license_name: topicnet
license_link: >-
  https://github.com/machine-intelligence-laboratory/TopicNet/blob/master/LICENSE.txt
---


# RuWiki-Good

Отдельные статьи из дампа русской Википедии за `20200301`. Подвыборка состоит из статей, относящихся к числу \"добротных\", \"хороших\" или \"избранных\" (см. https://ru.wikipedia.org/wiki/Википедия:Добротные_статьи).


Измеряемые характеристики датасета:

* D — число документов
* <имя модальности> W — размер словаря данной модальности (количество уникальных токенов)
* <имя модальности> len D — средняя длина документа в терминах этой модальности (количество слов)
* <имя модальности> len D uniq — средняя длина документа в уникальных терминах этой модальности (количество уникальных слов)


|       |    D |   @categories W |   @categories len D |   @categories len D uniq |   @lemmatized W |   @lemmatized len D |   @lemmatized len D uniq |   @ngramms W |   @ngramms len D |   @ngramms len D uniq |
|:------|------------:|-----------------------:|---------------------------:|--------------------------------:|-----------------------:|---------------------------:|--------------------------------:|--------------------:|------------------------:|-----------------------------:|
| value |        8603 |                  44493 |                     5.1718 |                         5.17296 |            1.66434e+07 |                     1934.6 |                         721.389 |         3.11727e+06 |                 362.347 |                      287.695 |


Информация о длинах документов в расчёте на модальность:


|      |   len_total@categories |   len_total@lemmatized |   len_total@ngramms |   len_uniq@categories |   len_uniq@lemmatized |   len_uniq@ngramms |
|:-----|-----------------------:|-----------------------:|--------------------:|----------------------:|----------------------:|-------------------:|
| mean |                5.17296 |                1934.6  |             362.347 |               5.17296 |               721.389 |            287.695 |
| std  |                4.0102  |                2065.78 |             384.164 |               4.0102  |               596.947 |            292.717 |
| min  |                0       |                  55    |               8     |               0       |                35     |              8     |
| 25%  |                2       |                 593    |             112.5   |               2       |               296     |             96     |
| 50%  |                4       |                1223    |             229     |               4       |               540     |            189     |
| 75%  |                7       |                2447    |             458     |               7       |               943     |            365     |
| max  |               51       |               17472    |            3335     |              51       |              4423     |           2459     |