Datasets:
Alvant
commited on
Commit
·
567a3e0
1
Parent(s):
5dd8f9c
add info about dataset in readme
Browse files
README.md
CHANGED
@@ -4,3 +4,34 @@ license_name: topicnet
|
|
4 |
license_link: >-
|
5 |
https://github.com/machine-intelligence-laboratory/TopicNet/blob/master/LICENSE.txt
|
6 |
---
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
4 |
license_link: >-
|
5 |
https://github.com/machine-intelligence-laboratory/TopicNet/blob/master/LICENSE.txt
|
6 |
---
|
7 |
+
|
8 |
+
# 20 Newsgroups
|
9 |
+
|
10 |
+
Измеряемые характеристики датасета:
|
11 |
+
|
12 |
+
* D — число документов
|
13 |
+
* <имя модальности> W — размер словаря данной модальности (количество уникальных токенов)
|
14 |
+
* <имя модальности> len D — средняя длина документа в терминах этой модальности (количество слов)
|
15 |
+
* <имя модальности> len D uniq — средняя длина документа в уникальных терминах этой модальности (количество уникальных слов)
|
16 |
+
|
17 |
+
|
18 |
+
| | D | @lemmatized W | @lemmatized len D | @lemmatized len D uniq | @bigram W | @bigram len D | @bigram len D uniq |
|
19 |
+
|:------|------------:|-----------------------:|---------------------------:|--------------------------------:|-------------------:|-----------------------:|----------------------------:|
|
20 |
+
| value | 11301 | 1.0614e+06 | 93.9204 | 60.5687 | 213701 | 18.9099 | 15.0068 |
|
21 |
+
|
22 |
+
|
23 |
+
Информацию о длинах документов в расчёте на модальность:
|
24 |
+
|
25 |
+
| | len_total@lemmatized | len_total@bigram | len_uniq@lemmatized | len_uniq@bigram |
|
26 |
+
|:-----|-----------------------:|-------------------:|----------------------:|------------------:|
|
27 |
+
| mean | 93.9204 | 18.9099 | 60.5687 | 15.0068 |
|
28 |
+
| std | 276.901 | 66.4278 | 104.23 | 39.1756 |
|
29 |
+
| min | 0 | 0 | 0 | 0 |
|
30 |
+
| 25% | 20 | 3 | 19 | 3 |
|
31 |
+
| 50% | 42 | 8 | 35 | 8 |
|
32 |
+
| 75% | 83 | 16 | 65 | 15 |
|
33 |
+
| max | 6497 | 1528 | 1875 | 831 |
|
34 |
+
|
35 |
+
|
36 |
+
|
37 |
+
**Метаданные:** есть метки классов (20 штук)
|