Model save
Browse files- README.md +52 -0
- added_tokens.json +106 -0
- all_results.json +9 -0
- config.json +38 -0
- generated_predictions.txt +641 -0
- generation_config.json +11 -0
- predict_results.json +9 -0
- pytorch_model.bin +3 -0
- sentencepiece.bpe.model +3 -0
- special_tokens_map.json +109 -0
- tokenizer_config.json +952 -0
- training_args.bin +3 -0
- vocab.json +0 -0
README.md
ADDED
@@ -0,0 +1,52 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
+
---
|
2 |
+
license: mit
|
3 |
+
base_model: facebook/m2m100_1.2B
|
4 |
+
tags:
|
5 |
+
- generated_from_trainer
|
6 |
+
model-index:
|
7 |
+
- name: m2m100_1.2B_ft_kbd-ru_63K
|
8 |
+
results: []
|
9 |
+
---
|
10 |
+
|
11 |
+
<!-- This model card has been generated automatically according to the information the Trainer had access to. You
|
12 |
+
should probably proofread and complete it, then remove this comment. -->
|
13 |
+
|
14 |
+
# m2m100_1.2B_ft_kbd-ru_63K
|
15 |
+
|
16 |
+
This model is a fine-tuned version of [facebook/m2m100_1.2B](https://huggingface.co/facebook/m2m100_1.2B) on an unknown dataset.
|
17 |
+
|
18 |
+
## Model description
|
19 |
+
|
20 |
+
More information needed
|
21 |
+
|
22 |
+
## Intended uses & limitations
|
23 |
+
|
24 |
+
More information needed
|
25 |
+
|
26 |
+
## Training and evaluation data
|
27 |
+
|
28 |
+
More information needed
|
29 |
+
|
30 |
+
## Training procedure
|
31 |
+
|
32 |
+
### Training hyperparameters
|
33 |
+
|
34 |
+
The following hyperparameters were used during training:
|
35 |
+
- learning_rate: 5e-05
|
36 |
+
- train_batch_size: 16
|
37 |
+
- eval_batch_size: 16
|
38 |
+
- seed: 42
|
39 |
+
- optimizer: Adam with betas=(0.9,0.999) and epsilon=1e-08
|
40 |
+
- lr_scheduler_type: linear
|
41 |
+
- training_steps: 9000
|
42 |
+
|
43 |
+
### Training results
|
44 |
+
|
45 |
+
|
46 |
+
|
47 |
+
### Framework versions
|
48 |
+
|
49 |
+
- Transformers 4.34.0.dev0
|
50 |
+
- Pytorch 2.0.1+cu118
|
51 |
+
- Datasets 2.14.5
|
52 |
+
- Tokenizers 0.14.0
|
added_tokens.json
ADDED
@@ -0,0 +1,106 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
+
{
|
2 |
+
"</s>": 2,
|
3 |
+
"<pad>": 1,
|
4 |
+
"<s>": 0,
|
5 |
+
"<unk>": 3,
|
6 |
+
"__af__": 128004,
|
7 |
+
"__am__": 128005,
|
8 |
+
"__ar__": 128006,
|
9 |
+
"__ast__": 128007,
|
10 |
+
"__az__": 128008,
|
11 |
+
"__ba__": 128009,
|
12 |
+
"__be__": 128010,
|
13 |
+
"__bg__": 128011,
|
14 |
+
"__bn__": 128012,
|
15 |
+
"__br__": 128013,
|
16 |
+
"__bs__": 128014,
|
17 |
+
"__ca__": 128015,
|
18 |
+
"__ceb__": 128016,
|
19 |
+
"__cs__": 128017,
|
20 |
+
"__cy__": 128018,
|
21 |
+
"__da__": 128019,
|
22 |
+
"__de__": 128020,
|
23 |
+
"__el__": 128021,
|
24 |
+
"__en__": 128022,
|
25 |
+
"__es__": 128023,
|
26 |
+
"__et__": 128024,
|
27 |
+
"__fa__": 128025,
|
28 |
+
"__ff__": 128026,
|
29 |
+
"__fi__": 128027,
|
30 |
+
"__fr__": 128028,
|
31 |
+
"__fy__": 128029,
|
32 |
+
"__ga__": 128030,
|
33 |
+
"__gd__": 128031,
|
34 |
+
"__gl__": 128032,
|
35 |
+
"__gu__": 128033,
|
36 |
+
"__ha__": 128034,
|
37 |
+
"__he__": 128035,
|
38 |
+
"__hi__": 128036,
|
39 |
+
"__hr__": 128037,
|
40 |
+
"__ht__": 128038,
|
41 |
+
"__hu__": 128039,
|
42 |
+
"__hy__": 128040,
|
43 |
+
"__id__": 128041,
|
44 |
+
"__ig__": 128042,
|
45 |
+
"__ilo__": 128043,
|
46 |
+
"__is__": 128044,
|
47 |
+
"__it__": 128045,
|
48 |
+
"__ja__": 128046,
|
49 |
+
"__jv__": 128047,
|
50 |
+
"__ka__": 128048,
|
51 |
+
"__kk__": 128049,
|
52 |
+
"__km__": 128050,
|
53 |
+
"__kn__": 128051,
|
54 |
+
"__ko__": 128052,
|
55 |
+
"__lb__": 128053,
|
56 |
+
"__lg__": 128054,
|
57 |
+
"__ln__": 128055,
|
58 |
+
"__lo__": 128056,
|
59 |
+
"__lt__": 128057,
|
60 |
+
"__lv__": 128058,
|
61 |
+
"__mg__": 128059,
|
62 |
+
"__mk__": 128060,
|
63 |
+
"__ml__": 128061,
|
64 |
+
"__mn__": 128062,
|
65 |
+
"__mr__": 128063,
|
66 |
+
"__ms__": 128064,
|
67 |
+
"__my__": 128065,
|
68 |
+
"__ne__": 128066,
|
69 |
+
"__nl__": 128067,
|
70 |
+
"__no__": 128068,
|
71 |
+
"__ns__": 128069,
|
72 |
+
"__oc__": 128070,
|
73 |
+
"__or__": 128071,
|
74 |
+
"__pa__": 128072,
|
75 |
+
"__pl__": 128073,
|
76 |
+
"__ps__": 128074,
|
77 |
+
"__pt__": 128075,
|
78 |
+
"__ro__": 128076,
|
79 |
+
"__ru__": 128077,
|
80 |
+
"__sd__": 128078,
|
81 |
+
"__si__": 128079,
|
82 |
+
"__sk__": 128080,
|
83 |
+
"__sl__": 128081,
|
84 |
+
"__so__": 128082,
|
85 |
+
"__sq__": 128083,
|
86 |
+
"__sr__": 128084,
|
87 |
+
"__ss__": 128085,
|
88 |
+
"__su__": 128086,
|
89 |
+
"__sv__": 128087,
|
90 |
+
"__sw__": 128088,
|
91 |
+
"__ta__": 128089,
|
92 |
+
"__th__": 128090,
|
93 |
+
"__tl__": 128091,
|
94 |
+
"__tn__": 128092,
|
95 |
+
"__tr__": 128093,
|
96 |
+
"__uk__": 128094,
|
97 |
+
"__ur__": 128095,
|
98 |
+
"__uz__": 128096,
|
99 |
+
"__vi__": 128097,
|
100 |
+
"__wo__": 128098,
|
101 |
+
"__xh__": 128099,
|
102 |
+
"__yi__": 128100,
|
103 |
+
"__yo__": 128101,
|
104 |
+
"__zh__": 128102,
|
105 |
+
"__zu__": 128103
|
106 |
+
}
|
all_results.json
ADDED
@@ -0,0 +1,9 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
+
{
|
2 |
+
"predict_bleu": 25.4625,
|
3 |
+
"predict_gen_len": 9.4009,
|
4 |
+
"predict_loss": 1.520385503768921,
|
5 |
+
"predict_runtime": 79.4293,
|
6 |
+
"predict_samples": 641,
|
7 |
+
"predict_samples_per_second": 8.07,
|
8 |
+
"predict_steps_per_second": 0.214
|
9 |
+
}
|
config.json
ADDED
@@ -0,0 +1,38 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
+
{
|
2 |
+
"_name_or_path": "facebook/m2m100_1.2B",
|
3 |
+
"activation_dropout": 0.0,
|
4 |
+
"activation_function": "relu",
|
5 |
+
"architectures": [
|
6 |
+
"M2M100ForConditionalGeneration"
|
7 |
+
],
|
8 |
+
"attention_dropout": 0.1,
|
9 |
+
"bos_token_id": 0,
|
10 |
+
"d_model": 1024,
|
11 |
+
"decoder_attention_heads": 16,
|
12 |
+
"decoder_ffn_dim": 8192,
|
13 |
+
"decoder_layerdrop": 0.05,
|
14 |
+
"decoder_layers": 24,
|
15 |
+
"decoder_start_token_id": 2,
|
16 |
+
"dropout": 0.1,
|
17 |
+
"early_stopping": true,
|
18 |
+
"encoder_attention_heads": 16,
|
19 |
+
"encoder_ffn_dim": 8192,
|
20 |
+
"encoder_layerdrop": 0.05,
|
21 |
+
"encoder_layers": 24,
|
22 |
+
"eos_token_id": 2,
|
23 |
+
"forced_bos_token_id": 128077,
|
24 |
+
"gradient_checkpointing": false,
|
25 |
+
"init_std": 0.02,
|
26 |
+
"is_encoder_decoder": true,
|
27 |
+
"max_length": 200,
|
28 |
+
"max_position_embeddings": 1024,
|
29 |
+
"model_type": "m2m_100",
|
30 |
+
"num_beams": 5,
|
31 |
+
"num_hidden_layers": 24,
|
32 |
+
"pad_token_id": 1,
|
33 |
+
"scale_embedding": true,
|
34 |
+
"torch_dtype": "float32",
|
35 |
+
"transformers_version": "4.34.0.dev0",
|
36 |
+
"use_cache": true,
|
37 |
+
"vocab_size": 128112
|
38 |
+
}
|
generated_predictions.txt
ADDED
@@ -0,0 +1,641 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
+
парная машина
|
2 |
+
кизил
|
3 |
+
сегодня мне исполнилось пятьдесят три года.
|
4 |
+
коронный
|
5 |
+
жить
|
6 |
+
отборные яблоки
|
7 |
+
он впопад сел на стул
|
8 |
+
ссора
|
9 |
+
исключить из группы
|
10 |
+
возрождаться
|
11 |
+
девятый
|
12 |
+
не разделяют составные буквы, когда переносят слово: песок — серый, рога — рога.
|
13 |
+
масса
|
14 |
+
исследующий длину
|
15 |
+
бездельничество
|
16 |
+
направиться в сторону
|
17 |
+
непрочное положение
|
18 |
+
рубеж
|
19 |
+
вы едите.
|
20 |
+
безуспешно
|
21 |
+
следить за работой старших
|
22 |
+
анонимное письмо
|
23 |
+
ты принесешь
|
24 |
+
мы не стали?
|
25 |
+
быть неприступным кровью
|
26 |
+
всегда
|
27 |
+
мелкие яблоки
|
28 |
+
последовательность
|
29 |
+
пересадка желудка
|
30 |
+
выкатить
|
31 |
+
американские штаты
|
32 |
+
не убивая человека,
|
33 |
+
на какой вопрос отвечают выписанные слова?
|
34 |
+
легкий вызов
|
35 |
+
оползти
|
36 |
+
кушать
|
37 |
+
второй
|
38 |
+
июль
|
39 |
+
я пошел и
|
40 |
+
произнести слово в слово
|
41 |
+
лостенбек вслед за ним вскакал и схватился, куда лошадь вошла, и решил вернуть лошадь
|
42 |
+
морковь
|
43 |
+
слова залым, матха - главные члены предложения.
|
44 |
+
девятьсот
|
45 |
+
ты кормишь ребенка яблоком
|
46 |
+
вместиться
|
47 |
+
мы видели друг друга
|
48 |
+
да будешь ты любим богом.
|
49 |
+
необитаемый
|
50 |
+
он не становится
|
51 |
+
обновить паутину
|
52 |
+
подсчитать все трудности в работе
|
53 |
+
идти ради него
|
54 |
+
и ветер хвалит, и землю берет
|
55 |
+
вихор
|
56 |
+
перегородить в комнате
|
57 |
+
литературный долг
|
58 |
+
дождь остановился
|
59 |
+
пятница
|
60 |
+
исключительный
|
61 |
+
сними
|
62 |
+
появилось много желающих поехать на разведку
|
63 |
+
растения исчезают морозом
|
64 |
+
искусство
|
65 |
+
душевный рассказ
|
66 |
+
осторожничать
|
67 |
+
вы заставили нас одеться.
|
68 |
+
в корзине сажается сено, чтобы съесть скот.
|
69 |
+
возвратившись домой, озырмедж остановился, и вскоре он ездил впереди.
|
70 |
+
бандероль
|
71 |
+
воронка
|
72 |
+
скворцовый
|
73 |
+
непринужденная походка
|
74 |
+
не беспокойся о трудных работах
|
75 |
+
не созрели
|
76 |
+
какой звук выговаривается под звуком?
|
77 |
+
рост урожая
|
78 |
+
блюдо
|
79 |
+
тоже
|
80 |
+
скотный колхоз по животноводу
|
81 |
+
возвратить в дело
|
82 |
+
остеречься мороза
|
83 |
+
пуговица
|
84 |
+
выпрямиться
|
85 |
+
он учится в стамбуле.
|
86 |
+
неразрешимый
|
87 |
+
ты съел яблоко.
|
88 |
+
из-за храбрости подвига в великой отечественной войне, из-за храбрости храбрости родины массэддын достались ценные знаки подвига
|
89 |
+
баловаться
|
90 |
+
абсурдный
|
91 |
+
яркий
|
92 |
+
олово
|
93 |
+
сунуться туда
|
94 |
+
завернута в одеяло
|
95 |
+
диспут
|
96 |
+
красный карандаш
|
97 |
+
словарь
|
98 |
+
отсюда до города длится до километра
|
99 |
+
оказать благородство
|
100 |
+
подойти к дому вплотную
|
101 |
+
мы вместе работали
|
102 |
+
одинокий
|
103 |
+
погрузиться в воду
|
104 |
+
я стану?
|
105 |
+
распороть рубашку
|
106 |
+
пачка
|
107 |
+
старый друг
|
108 |
+
вежливое отношение
|
109 |
+
в будущем я к нему не пойду
|
110 |
+
мясо
|
111 |
+
увядший
|
112 |
+
возмущение
|
113 |
+
кукуруза усохла
|
114 |
+
доверительный
|
115 |
+
"пошел чубуком дым, и панов кивнул кинжалом."
|
116 |
+
снова видеться
|
117 |
+
холодный родник.
|
118 |
+
конец аркана возвратился с дерева, и он держал лошадь в синевой лошадине.
|
119 |
+
пусть он пойдет
|
120 |
+
туалетный часовой
|
121 |
+
выпасть снег
|
122 |
+
вскрикнуть
|
123 |
+
исключительный
|
124 |
+
выдержанность
|
125 |
+
когда я иду, я его увижу
|
126 |
+
вы поедите.
|
127 |
+
получить хитростью
|
128 |
+
уколоться иголкую
|
129 |
+
воинский
|
130 |
+
занятия делом
|
131 |
+
вышла новая книга
|
132 |
+
трудовой запас
|
133 |
+
он сидит рядом с ним
|
134 |
+
орех
|
135 |
+
вдеть нитку в иголку
|
136 |
+
взлететь
|
137 |
+
держать знакомство
|
138 |
+
вымирать
|
139 |
+
отделение больного
|
140 |
+
ох
|
141 |
+
мы посадили все деревья.
|
142 |
+
шелестая нитка
|
143 |
+
нарядно
|
144 |
+
крепкие яблоки
|
145 |
+
до моего возвращения до туда-обратно
|
146 |
+
екъуб козел блеет.
|
147 |
+
бурый родник
|
148 |
+
одноименный
|
149 |
+
ласковая варенья
|
150 |
+
созреть
|
151 |
+
сковорода
|
152 |
+
озорничать
|
153 |
+
вы бы ее понесли.
|
154 |
+
держать конверт в почте
|
155 |
+
пример: дерево (что сделало?) цветет.
|
156 |
+
вы нас послали.
|
157 |
+
три тысячи
|
158 |
+
уничтожить лежание
|
159 |
+
взвешивание
|
160 |
+
поело ли оно?
|
161 |
+
сын
|
162 |
+
закинуть чайник
|
163 |
+
освоить
|
164 |
+
солнце светит, радуется.
|
165 |
+
заключить договор
|
166 |
+
ты сможешь выпить чаю?
|
167 |
+
вытрясти
|
168 |
+
густой
|
169 |
+
умар читает книгу.
|
170 |
+
прежде алджуко никак не интересовался вниманием
|
171 |
+
отдел кадров
|
172 |
+
взвалить одеяло
|
173 |
+
он надел на себя
|
174 |
+
имена, данные животным:...
|
175 |
+
стадо
|
176 |
+
свисать
|
177 |
+
небрежный
|
178 |
+
вы не дали мне вещи
|
179 |
+
красота
|
180 |
+
я заставил вас вести его для него
|
181 |
+
спичка
|
182 |
+
влечение
|
183 |
+
к
|
184 |
+
испытать непонятное ясность.
|
185 |
+
нет на нашей земле
|
186 |
+
сдернуть
|
187 |
+
что же не напишешь?
|
188 |
+
дезориентация
|
189 |
+
4. белый конь бегает.
|
190 |
+
он ради него сходил
|
191 |
+
ляна, доктор.
|
192 |
+
бить масло
|
193 |
+
вдоль дороги
|
194 |
+
хан-магома закурил и лорис-меликов вернулся в гостиную.
|
195 |
+
внушить сомнения
|
196 |
+
ответчик
|
197 |
+
допечься
|
198 |
+
в таком положении
|
199 |
+
то, что вы сделали нам серп.
|
200 |
+
выпроводить
|
201 |
+
штаб полка
|
202 |
+
макнуть в руки морковью
|
203 |
+
разделите звук «у» в слове « дождь» на согласный звук.
|
204 |
+
доска скрипит
|
205 |
+
неизведанное число
|
206 |
+
ворота, трактор, пальто, сахар, окно, карандаш.
|
207 |
+
письменное прошение
|
208 |
+
норма по отношению
|
209 |
+
щипцы
|
210 |
+
внутренняя стена
|
211 |
+
взвесить
|
212 |
+
выстрелить мяч
|
213 |
+
ты идешь обратно в сад?
|
214 |
+
спасибо.
|
215 |
+
выпивайте
|
216 |
+
тетива
|
217 |
+
белый платок
|
218 |
+
озябнуть
|
219 |
+
беспокойство
|
220 |
+
вид
|
221 |
+
я был дома
|
222 |
+
(эсият шьет).
|
223 |
+
сорока белобрысый идет туда-обратно.
|
224 |
+
закисаться
|
225 |
+
методы изучения
|
226 |
+
в школу приехал электричок
|
227 |
+
они работают в майкопе.
|
228 |
+
обострение отношений
|
229 |
+
горец перечный
|
230 |
+
введение
|
231 |
+
смотритель
|
232 |
+
оно бежит
|
233 |
+
иметь сходство
|
234 |
+
предплечье
|
235 |
+
вырваться
|
236 |
+
все, что ты говоришь, или все слова лезгина, которые ты говоришь? - чуть-чуть прорвал глаза шамиля
|
237 |
+
соревнование
|
238 |
+
супница
|
239 |
+
мнение
|
240 |
+
это не моя книга
|
241 |
+
побудить к мятежу
|
242 |
+
невысокое молоко
|
243 |
+
низкий голос
|
244 |
+
пришить рукав
|
245 |
+
уползти
|
246 |
+
нуль
|
247 |
+
добросердечный служащий
|
248 |
+
в глубь инджиджа сидел нарт с женой. у женщины была чернота, у мужчины была смертельная смерть
|
249 |
+
крестьянин
|
250 |
+
как понимаешь, что слово становится слогом?
|
251 |
+
что это?
|
252 |
+
вид брюк
|
253 |
+
солнечный луч
|
254 |
+
периодически смотреть часы
|
255 |
+
осараж
|
256 |
+
мы были красивы
|
257 |
+
о
|
258 |
+
он надел его и вышел из дома.
|
259 |
+
в каждом предложении вместо точек слов, вставьте вместо выделенного слова синонимы.
|
260 |
+
доказать действительность какого-либо дела
|
261 |
+
сдать товары багажу
|
262 |
+
в темноте двухлетнего хозяина
|
263 |
+
мимика
|
264 |
+
раздеться
|
265 |
+
вертеть
|
266 |
+
мечтать о будущем
|
267 |
+
выкупаться
|
268 |
+
спай!
|
269 |
+
плотницкий топор
|
270 |
+
"в утробе рано, не переставая, по распоряжению полторацкого, два ротного, топорного, выходящего из-за ворот чахрин, выступили в сторону крепости, остерегаясь, что пугают вокруг него."
|
271 |
+
фонема
|
272 |
+
вы отвели?
|
273 |
+
работа остановилась
|
274 |
+
выпишите прочитанное, исправляя ошибки.
|
275 |
+
мы это сделали своими руками
|
276 |
+
вмешиваться
|
277 |
+
бесчисленные и безчисленные звезды были расставлены между небом и небом
|
278 |
+
как гром
|
279 |
+
фамилия
|
280 |
+
лесна�� волна
|
281 |
+
созреть
|
282 |
+
она поела
|
283 |
+
супруг
|
284 |
+
он попался в дело
|
285 |
+
оборвать круг
|
286 |
+
в выделенных словах поставьте знак ударения, подчеркните слог, на который падает ударение.
|
287 |
+
укажите, что обозначают слова обычаи и славы.
|
288 |
+
воспитывать
|
289 |
+
возмущаться
|
290 |
+
железная балка
|
291 |
+
пробудитель
|
292 |
+
красивая речь
|
293 |
+
вьюнковая комната
|
294 |
+
пачка
|
295 |
+
худой
|
296 |
+
попасть впросак
|
297 |
+
откусить
|
298 |
+
в честь праздника
|
299 |
+
вставить
|
300 |
+
дверь закрылась
|
301 |
+
морось
|
302 |
+
я не поел грушу.
|
303 |
+
теплый
|
304 |
+
воспретить
|
305 |
+
выбиться из ребенка
|
306 |
+
"когда он упал, он все время лежал, не сдаваясь и не сдаваясь."
|
307 |
+
беспамятство
|
308 |
+
взмах
|
309 |
+
глубоко выкопать яму
|
310 |
+
выделенные слова прочитайте, вставляя вопросы.
|
311 |
+
привести ее в отчаяние
|
312 |
+
летать
|
313 |
+
один из братьев
|
314 |
+
выводить людей на машину
|
315 |
+
вырастить
|
316 |
+
сила испортилась
|
317 |
+
телефонный кабель
|
318 |
+
птицы вольной родины.
|
319 |
+
они написали.
|
320 |
+
снег тает на полу
|
321 |
+
ни черта
|
322 |
+
рабочий человек
|
323 |
+
дояр
|
324 |
+
влететь
|
325 |
+
любить родину
|
326 |
+
ты учишься
|
327 |
+
проявить красноватость
|
328 |
+
лед
|
329 |
+
обособиться
|
330 |
+
он идет туда
|
331 |
+
длинное платье
|
332 |
+
чем ты боишься?
|
333 |
+
ты не отвел обратно?
|
334 |
+
озорной
|
335 |
+
съесть без объятий
|
336 |
+
площадь куба
|
337 |
+
затянув пояс
|
338 |
+
быть неприступным
|
339 |
+
запутаться
|
340 |
+
длинная юбка
|
341 |
+
подойти к окну втайне
|
342 |
+
быть неприступным
|
343 |
+
анализировать книгу
|
344 |
+
вода кипятилась
|
345 |
+
зафер лежит на крыше.
|
346 |
+
снежная птица
|
347 |
+
хорошо, я приду
|
348 |
+
временный
|
349 |
+
блуждать
|
350 |
+
насквозь
|
351 |
+
верховой командован
|
352 |
+
возвышать
|
353 |
+
я ради тебя подошел к нему
|
354 |
+
скрыться
|
355 |
+
как на огневой лошадиной лошади
|
356 |
+
наверное смогу идти
|
357 |
+
находиться у товарища
|
358 |
+
сирота
|
359 |
+
гипнотизер
|
360 |
+
называться очкими
|
361 |
+
два раза
|
362 |
+
перерождение
|
363 |
+
дело
|
364 |
+
делитель
|
365 |
+
проволока
|
366 |
+
блеяние
|
367 |
+
этот кусок показывает многое.
|
368 |
+
определить недостатки в работе
|
369 |
+
мухараб обращен в мех
|
370 |
+
обрушиться
|
371 |
+
натуральный (неразбериха, неразбериха)
|
372 |
+
костный хозяин
|
373 |
+
я не дал тебе вещи
|
374 |
+
безмолвное соглашение
|
375 |
+
холодный дождь, как из ведра, катится
|
376 |
+
"– и жена «сардара, как будто не зная, что, как в прошлом году, гости были гостины, – сказал хаджи-мурат, обращаясь к хаджи-мурату."
|
377 |
+
ты дал умару яблоки.
|
378 |
+
старый конь не был одолел шала, потому что, когда мысост похитил вооруженных войсками, находилось отдельное отделение кожи
|
379 |
+
текстиль из шерсти (ткань)
|
380 |
+
данэ съела яблоко.
|
381 |
+
кони ускакал
|
382 |
+
возрождаться
|
383 |
+
информация
|
384 |
+
мохнатые мухи
|
385 |
+
сосруко пошел и вошел во двор, потонул в грушевой лошади и вошел в дом.
|
386 |
+
мачеха
|
387 |
+
"– он был против того, что будет убит его муж, что будет убит, но хану ничего не сделал, он уехал, и мужчина вышел из-под мороза."
|
388 |
+
это мой рисунок No 1рат.
|
389 |
+
остеречь знакомство
|
390 |
+
1. какая дорога шла в деревню?
|
391 |
+
выбривать
|
392 |
+
лицо, обладающее неограниченной властью в стране
|
393 |
+
гарантия
|
394 |
+
он бьет
|
395 |
+
мешок надвинулся
|
396 |
+
вклиниться
|
397 |
+
самолет
|
398 |
+
клянусь богом
|
399 |
+
выпадение волос
|
400 |
+
выехать из труды
|
401 |
+
вглядываться
|
402 |
+
ты веди лошадь в конюшню!
|
403 |
+
гораздо
|
404 |
+
воспитывать
|
405 |
+
незваный сын хьэтхьэмэт жил на берегу реки кубани
|
406 |
+
поле, с которого убрали пшеницу
|
407 |
+
мы едим.
|
408 |
+
свидетельство о том, что человек сидит
|
409 |
+
согнуть
|
410 |
+
они его понесут?
|
411 |
+
крах
|
412 |
+
последователь
|
413 |
+
ельбурганокоса
|
414 |
+
делать
|
415 |
+
придумай и увидишь
|
416 |
+
бурный пот��к воды
|
417 |
+
автомобиль делает семьдесят километров в час
|
418 |
+
похолодающая собака
|
419 |
+
я не бежал
|
420 |
+
рассеяться
|
421 |
+
постройка
|
422 |
+
язык
|
423 |
+
отрезаться
|
424 |
+
триста
|
425 |
+
корабль
|
426 |
+
я бабушка?
|
427 |
+
определить
|
428 |
+
нарушить правила этикета
|
429 |
+
вязка
|
430 |
+
беспокоиться о детях
|
431 |
+
бежать в школу
|
432 |
+
он встает с кровати и делает зарядку.
|
433 |
+
водоросль
|
434 |
+
враждебное слово
|
435 |
+
множить скот
|
436 |
+
он безрассудный
|
437 |
+
выступить в футбольную команду
|
438 |
+
5 - как выглядят поля и леса осенью?
|
439 |
+
хромой
|
440 |
+
мы отнесли гупсе одежду.
|
441 |
+
шприц
|
442 |
+
где ты был до сих пор?
|
443 |
+
вдоль
|
444 |
+
– чего хочешь, зачем не возвращаешься? – сказал он, когда дочь обыкновенно оседлалалалала. он ответил:
|
445 |
+
испытать оскорбление
|
446 |
+
по запискам соны в абдулчери.
|
447 |
+
дорога
|
448 |
+
ничто
|
449 |
+
ему исполнилось восемь лет.
|
450 |
+
вежливость
|
451 |
+
если у тебя есть маленький ум, я тебе дам и веревку, будто я пробью его через день.
|
452 |
+
тугоплавкий
|
453 |
+
ловкие дети
|
454 |
+
квартал
|
455 |
+
безразличный человек
|
456 |
+
70. прочитайте, вставляя отсутствующие слова вместо точек.
|
457 |
+
первопроходец
|
458 |
+
представить список учащихся
|
459 |
+
правила грамматики
|
460 |
+
вежливый
|
461 |
+
вы побежите туда
|
462 |
+
трудовой
|
463 |
+
разорить врага
|
464 |
+
ты будешь есть?
|
465 |
+
соус
|
466 |
+
снять веревку
|
467 |
+
"он видел, что самое важное, важное в жизни, – это рождение человека, смерть, смерть, смерть, смерть, смерть, смерть, смерть, смерть, смерть, смерть, смерть, смерть, и смерть от смерти офицера."
|
468 |
+
дотягиваться
|
469 |
+
часы остановились
|
470 |
+
но озырмедж ничего не спросил, только поговорил о нартах, чтобы прийти и унести сатаней.
|
471 |
+
ошибиться
|
472 |
+
недомогание
|
473 |
+
гибкие слова
|
474 |
+
34. выпишите слова, вставляя выпавшие буквы.
|
475 |
+
вдохновение
|
476 |
+
вырыть
|
477 |
+
сухожилие
|
478 |
+
перешептываться
|
479 |
+
военнослужащий в гвардии
|
480 |
+
сдерживаться
|
481 |
+
зачем ты сюда пришел, отец наш? - я пришел за мальчика, и был на экзамене, чтобы поступить в университет.
|
482 |
+
перепроверьте ваши вещи
|
483 |
+
в доме нет ни души
|
484 |
+
он шел?
|
485 |
+
осмелеть
|
486 |
+
кадка оторвалась
|
487 |
+
кататься на велосипеде, на велосипеде
|
488 |
+
вы не говорите этого.
|
489 |
+
вспухло кислый ручей
|
490 |
+
мы, не одевшись, спустились в сад.
|
491 |
+
упрек
|
492 |
+
лиса
|
493 |
+
свалить войска на врага
|
494 |
+
кроме этого парня сегодня никто не вошел во двор
|
495 |
+
запутаться
|
496 |
+
собака лает очень сильно
|
497 |
+
блуждать
|
498 |
+
неохотно
|
499 |
+
возрождение
|
500 |
+
переписка
|
501 |
+
узкая дорога
|
502 |
+
один
|
503 |
+
тебя ко мне он отправляет.
|
504 |
+
пасовка
|
505 |
+
она посадила его рядом с ним?
|
506 |
+
ты не приносишь мне еду.
|
507 |
+
держать речь о ком-то
|
508 |
+
головка винта
|
509 |
+
найдите имена, данные собакам.
|
510 |
+
тупой козел
|
511 |
+
отдел кадров
|
512 |
+
шутки ажагафы
|
513 |
+
– спасибо, господь! какой красивый меч! кто сделал это для тебя? дай-ка посмотреть, – попросил он.
|
514 |
+
ногай
|
515 |
+
изложение
|
516 |
+
нетерпеливый
|
517 |
+
женщины, подобные мужским женщинам, включены в выборы
|
518 |
+
в соседней комнате слышится звук хаджи-мурата.
|
519 |
+
ни разу он не был не на своем месте.
|
520 |
+
на свете нет такого, что она сама не обиделась и не вспомнила о ней – пыль вьется, не вернешься, исчезает из ее кожи.
|
521 |
+
она становится?
|
522 |
+
написанный
|
523 |
+
дать повышенную работу
|
524 |
+
зимой идет снег, погода холодна.
|
525 |
+
горький
|
526 |
+
храбрый воин
|
527 |
+
бесшумный
|
528 |
+
он купил книгу
|
529 |
+
дай бог, чтобы мы жили здоровы.
|
530 |
+
милый привет
|
531 |
+
учащиеся учатся
|
532 |
+
сидеть рядом с девушкой
|
533 |
+
обладать авторитетом
|
534 |
+
резьба
|
535 |
+
некто
|
536 |
+
толстый голос
|
537 |
+
ездить к другу
|
538 |
+
привыкнуть к новолунию
|
539 |
+
олух
|
540 |
+
блестеть
|
541 |
+
истечь
|
542 |
+
возмутить
|
543 |
+
умный
|
544 |
+
влезть
|
545 |
+
она не красит?
|
546 |
+
одобрить учащихся на полевой труд колхоза
|
547 |
+
а ты?
|
548 |
+
он пишет ему стихотворение.
|
549 |
+
делаю же!
|
550 |
+
всадник
|
551 |
+
бог в помощь.
|
552 |
+
патараз возвращается обратно.
|
553 |
+
семя
|
554 |
+
блеяние
|
555 |
+
работник (выполняющий большую работу)
|
556 |
+
благодарный
|
557 |
+
подчеркните разделительную «ы».
|
558 |
+
возвратный
|
559 |
+
допустить ошибку
|
560 |
+
тридцать
|
561 |
+
включение
|
562 |
+
неровный
|
563 |
+
пополам
|
564 |
+
год истек
|
565 |
+
осенью солнечные лучи блестит легкие
|
566 |
+
свирепый
|
567 |
+
он бежит туда
|
568 |
+
войти в обзор
|
569 |
+
бегом бежал
|
570 |
+
нет безграничного
|
571 |
+
роскошный дом
|
572 |
+
перестлать
|
573 |
+
безлюдное
|
574 |
+
способ слияния звуков внутри дома
|
575 |
+
они принесли яблоко.
|
576 |
+
бюллетень голосования
|
577 |
+
мои силы растянулись
|
578 |
+
декорация
|
579 |
+
квадратный метр
|
580 |
+
заклеить мешок
|
581 |
+
ты разве не покрасишь?
|
582 |
+
сломать старую комнату
|
583 |
+
разгребать кусок снега
|
584 |
+
он шагает
|
585 |
+
чужими руками подстричь подсолну
|
586 |
+
хитрый
|
587 |
+
ворона с орехами
|
588 |
+
он не маленький
|
589 |
+
вы съели яблоко.
|
590 |
+
но, конечно, не бросают цифры и цифры, которые понимают, что жизнь! я бы порадовался этим рассказом, подобно сказанному сказке.
|
591 |
+
ячмень
|
592 |
+
готовая еда
|
593 |
+
возможность
|
594 |
+
положи обратно в подоконник
|
595 |
+
когда лодку приближало к берегу моря в одно время, в другой раз раз разрывились войска противника государства, озырмес приближался к берегу привязанного к лодке.
|
596 |
+
лягушка и та река, в которой я сижу, глубокая бывала
|
597 |
+
"только пьяные, что игра закончилась, и лошадиные лошади переломились, и он стал сдаться лошадям."
|
598 |
+
человек, окончивший академию, или он там учится
|
599 |
+
смотрит
|
600 |
+
давать
|
601 |
+
разбросать навоз по саду
|
602 |
+
инвалидность
|
603 |
+
обогреть землю
|
604 |
+
взбежать
|
605 |
+
замешательство
|
606 |
+
это к мадам ферриолу не относится, и потому не смущается.
|
607 |
+
косой
|
608 |
+
я веду его к нему
|
609 |
+
центровой
|
610 |
+
опекун
|
611 |
+
он большой.
|
612 |
+
замешать
|
613 |
+
состоять
|
614 |
+
вас к нам они отправили.
|
615 |
+
он остался жив и не работая
|
616 |
+
переломиться
|
617 |
+
воображаемая сила
|
618 |
+
возмутить
|
619 |
+
рано
|
620 |
+
он дал умару яблоки.
|
621 |
+
вниз
|
622 |
+
благодатный
|
623 |
+
дождливый
|
624 |
+
двинуть
|
625 |
+
барсук – нагъуэ.
|
626 |
+
задумчивый
|
627 |
+
предотвратить
|
628 |
+
оглянуться вокруг
|
629 |
+
однородный
|
630 |
+
объем
|
631 |
+
сиреневый
|
632 |
+
разве ты не спишь?
|
633 |
+
когда я делаю руки, птицы улетают обратно.
|
634 |
+
бросить
|
635 |
+
присутствующий
|
636 |
+
славный бог
|
637 |
+
хранилище военных деяний
|
638 |
+
ребенок
|
639 |
+
нуна читает книгу.
|
640 |
+
купить книги в аренду
|
641 |
+
рабочее время
|
generation_config.json
ADDED
@@ -0,0 +1,11 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
+
{
|
2 |
+
"_from_model_config": true,
|
3 |
+
"bos_token_id": 0,
|
4 |
+
"decoder_start_token_id": 2,
|
5 |
+
"early_stopping": true,
|
6 |
+
"eos_token_id": 2,
|
7 |
+
"max_length": 200,
|
8 |
+
"num_beams": 5,
|
9 |
+
"pad_token_id": 1,
|
10 |
+
"transformers_version": "4.34.0.dev0"
|
11 |
+
}
|
predict_results.json
ADDED
@@ -0,0 +1,9 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
+
{
|
2 |
+
"predict_bleu": 25.4625,
|
3 |
+
"predict_gen_len": 9.4009,
|
4 |
+
"predict_loss": 1.520385503768921,
|
5 |
+
"predict_runtime": 79.4293,
|
6 |
+
"predict_samples": 641,
|
7 |
+
"predict_samples_per_second": 8.07,
|
8 |
+
"predict_steps_per_second": 0.214
|
9 |
+
}
|
pytorch_model.bin
ADDED
@@ -0,0 +1,3 @@
|
|
|
|
|
|
|
|
|
1 |
+
version https://git-lfs.github.com/spec/v1
|
2 |
+
oid sha256:fec51b94da700b4e4a68e03e249ad1b1ca63aad4d526e9b167ddb4db01db65d5
|
3 |
+
size 4958228362
|
sentencepiece.bpe.model
ADDED
@@ -0,0 +1,3 @@
|
|
|
|
|
|
|
|
|
1 |
+
version https://git-lfs.github.com/spec/v1
|
2 |
+
oid sha256:d8f7c76ed2a5e0822be39f0a4f95a55eb19c78f4593ce609e2edbc2aea4d380a
|
3 |
+
size 2423393
|
special_tokens_map.json
ADDED
@@ -0,0 +1,109 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
+
{
|
2 |
+
"additional_special_tokens": [
|
3 |
+
"__af__",
|
4 |
+
"__am__",
|
5 |
+
"__ar__",
|
6 |
+
"__ast__",
|
7 |
+
"__az__",
|
8 |
+
"__ba__",
|
9 |
+
"__be__",
|
10 |
+
"__bg__",
|
11 |
+
"__bn__",
|
12 |
+
"__br__",
|
13 |
+
"__bs__",
|
14 |
+
"__ca__",
|
15 |
+
"__ceb__",
|
16 |
+
"__cs__",
|
17 |
+
"__cy__",
|
18 |
+
"__da__",
|
19 |
+
"__de__",
|
20 |
+
"__el__",
|
21 |
+
"__en__",
|
22 |
+
"__es__",
|
23 |
+
"__et__",
|
24 |
+
"__fa__",
|
25 |
+
"__ff__",
|
26 |
+
"__fi__",
|
27 |
+
"__fr__",
|
28 |
+
"__fy__",
|
29 |
+
"__ga__",
|
30 |
+
"__gd__",
|
31 |
+
"__gl__",
|
32 |
+
"__gu__",
|
33 |
+
"__ha__",
|
34 |
+
"__he__",
|
35 |
+
"__hi__",
|
36 |
+
"__hr__",
|
37 |
+
"__ht__",
|
38 |
+
"__hu__",
|
39 |
+
"__hy__",
|
40 |
+
"__id__",
|
41 |
+
"__ig__",
|
42 |
+
"__ilo__",
|
43 |
+
"__is__",
|
44 |
+
"__it__",
|
45 |
+
"__ja__",
|
46 |
+
"__jv__",
|
47 |
+
"__ka__",
|
48 |
+
"__kk__",
|
49 |
+
"__km__",
|
50 |
+
"__kn__",
|
51 |
+
"__ko__",
|
52 |
+
"__lb__",
|
53 |
+
"__lg__",
|
54 |
+
"__ln__",
|
55 |
+
"__lo__",
|
56 |
+
"__lt__",
|
57 |
+
"__lv__",
|
58 |
+
"__mg__",
|
59 |
+
"__mk__",
|
60 |
+
"__ml__",
|
61 |
+
"__mn__",
|
62 |
+
"__mr__",
|
63 |
+
"__ms__",
|
64 |
+
"__my__",
|
65 |
+
"__ne__",
|
66 |
+
"__nl__",
|
67 |
+
"__no__",
|
68 |
+
"__ns__",
|
69 |
+
"__oc__",
|
70 |
+
"__or__",
|
71 |
+
"__pa__",
|
72 |
+
"__pl__",
|
73 |
+
"__ps__",
|
74 |
+
"__pt__",
|
75 |
+
"__ro__",
|
76 |
+
"__ru__",
|
77 |
+
"__sd__",
|
78 |
+
"__si__",
|
79 |
+
"__sk__",
|
80 |
+
"__sl__",
|
81 |
+
"__so__",
|
82 |
+
"__sq__",
|
83 |
+
"__sr__",
|
84 |
+
"__ss__",
|
85 |
+
"__su__",
|
86 |
+
"__sv__",
|
87 |
+
"__sw__",
|
88 |
+
"__ta__",
|
89 |
+
"__th__",
|
90 |
+
"__tl__",
|
91 |
+
"__tn__",
|
92 |
+
"__tr__",
|
93 |
+
"__uk__",
|
94 |
+
"__ur__",
|
95 |
+
"__uz__",
|
96 |
+
"__vi__",
|
97 |
+
"__wo__",
|
98 |
+
"__xh__",
|
99 |
+
"__yi__",
|
100 |
+
"__yo__",
|
101 |
+
"__zh__",
|
102 |
+
"__zu__"
|
103 |
+
],
|
104 |
+
"bos_token": "<s>",
|
105 |
+
"eos_token": "</s>",
|
106 |
+
"pad_token": "<pad>",
|
107 |
+
"sep_token": "</s>",
|
108 |
+
"unk_token": "<unk>"
|
109 |
+
}
|
tokenizer_config.json
ADDED
@@ -0,0 +1,952 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
+
{
|
2 |
+
"added_tokens_decoder": {
|
3 |
+
"0": {
|
4 |
+
"content": "<s>",
|
5 |
+
"lstrip": false,
|
6 |
+
"normalized": false,
|
7 |
+
"rstrip": false,
|
8 |
+
"single_word": false,
|
9 |
+
"special": true
|
10 |
+
},
|
11 |
+
"1": {
|
12 |
+
"content": "<pad>",
|
13 |
+
"lstrip": false,
|
14 |
+
"normalized": false,
|
15 |
+
"rstrip": false,
|
16 |
+
"single_word": false,
|
17 |
+
"special": true
|
18 |
+
},
|
19 |
+
"2": {
|
20 |
+
"content": "</s>",
|
21 |
+
"lstrip": false,
|
22 |
+
"normalized": false,
|
23 |
+
"rstrip": false,
|
24 |
+
"single_word": false,
|
25 |
+
"special": true
|
26 |
+
},
|
27 |
+
"3": {
|
28 |
+
"content": "<unk>",
|
29 |
+
"lstrip": false,
|
30 |
+
"normalized": false,
|
31 |
+
"rstrip": false,
|
32 |
+
"single_word": false,
|
33 |
+
"special": true
|
34 |
+
},
|
35 |
+
"128004": {
|
36 |
+
"content": "__af__",
|
37 |
+
"lstrip": true,
|
38 |
+
"normalized": false,
|
39 |
+
"rstrip": true,
|
40 |
+
"single_word": false,
|
41 |
+
"special": true
|
42 |
+
},
|
43 |
+
"128005": {
|
44 |
+
"content": "__am__",
|
45 |
+
"lstrip": true,
|
46 |
+
"normalized": false,
|
47 |
+
"rstrip": true,
|
48 |
+
"single_word": false,
|
49 |
+
"special": true
|
50 |
+
},
|
51 |
+
"128006": {
|
52 |
+
"content": "__ar__",
|
53 |
+
"lstrip": true,
|
54 |
+
"normalized": false,
|
55 |
+
"rstrip": true,
|
56 |
+
"single_word": false,
|
57 |
+
"special": true
|
58 |
+
},
|
59 |
+
"128007": {
|
60 |
+
"content": "__ast__",
|
61 |
+
"lstrip": true,
|
62 |
+
"normalized": false,
|
63 |
+
"rstrip": true,
|
64 |
+
"single_word": false,
|
65 |
+
"special": true
|
66 |
+
},
|
67 |
+
"128008": {
|
68 |
+
"content": "__az__",
|
69 |
+
"lstrip": true,
|
70 |
+
"normalized": false,
|
71 |
+
"rstrip": true,
|
72 |
+
"single_word": false,
|
73 |
+
"special": true
|
74 |
+
},
|
75 |
+
"128009": {
|
76 |
+
"content": "__ba__",
|
77 |
+
"lstrip": true,
|
78 |
+
"normalized": false,
|
79 |
+
"rstrip": true,
|
80 |
+
"single_word": false,
|
81 |
+
"special": true
|
82 |
+
},
|
83 |
+
"128010": {
|
84 |
+
"content": "__be__",
|
85 |
+
"lstrip": true,
|
86 |
+
"normalized": false,
|
87 |
+
"rstrip": true,
|
88 |
+
"single_word": false,
|
89 |
+
"special": true
|
90 |
+
},
|
91 |
+
"128011": {
|
92 |
+
"content": "__bg__",
|
93 |
+
"lstrip": true,
|
94 |
+
"normalized": false,
|
95 |
+
"rstrip": true,
|
96 |
+
"single_word": false,
|
97 |
+
"special": true
|
98 |
+
},
|
99 |
+
"128012": {
|
100 |
+
"content": "__bn__",
|
101 |
+
"lstrip": true,
|
102 |
+
"normalized": false,
|
103 |
+
"rstrip": true,
|
104 |
+
"single_word": false,
|
105 |
+
"special": true
|
106 |
+
},
|
107 |
+
"128013": {
|
108 |
+
"content": "__br__",
|
109 |
+
"lstrip": true,
|
110 |
+
"normalized": false,
|
111 |
+
"rstrip": true,
|
112 |
+
"single_word": false,
|
113 |
+
"special": true
|
114 |
+
},
|
115 |
+
"128014": {
|
116 |
+
"content": "__bs__",
|
117 |
+
"lstrip": true,
|
118 |
+
"normalized": false,
|
119 |
+
"rstrip": true,
|
120 |
+
"single_word": false,
|
121 |
+
"special": true
|
122 |
+
},
|
123 |
+
"128015": {
|
124 |
+
"content": "__ca__",
|
125 |
+
"lstrip": true,
|
126 |
+
"normalized": false,
|
127 |
+
"rstrip": true,
|
128 |
+
"single_word": false,
|
129 |
+
"special": true
|
130 |
+
},
|
131 |
+
"128016": {
|
132 |
+
"content": "__ceb__",
|
133 |
+
"lstrip": true,
|
134 |
+
"normalized": false,
|
135 |
+
"rstrip": true,
|
136 |
+
"single_word": false,
|
137 |
+
"special": true
|
138 |
+
},
|
139 |
+
"128017": {
|
140 |
+
"content": "__cs__",
|
141 |
+
"lstrip": true,
|
142 |
+
"normalized": false,
|
143 |
+
"rstrip": true,
|
144 |
+
"single_word": false,
|
145 |
+
"special": true
|
146 |
+
},
|
147 |
+
"128018": {
|
148 |
+
"content": "__cy__",
|
149 |
+
"lstrip": true,
|
150 |
+
"normalized": false,
|
151 |
+
"rstrip": true,
|
152 |
+
"single_word": false,
|
153 |
+
"special": true
|
154 |
+
},
|
155 |
+
"128019": {
|
156 |
+
"content": "__da__",
|
157 |
+
"lstrip": true,
|
158 |
+
"normalized": false,
|
159 |
+
"rstrip": true,
|
160 |
+
"single_word": false,
|
161 |
+
"special": true
|
162 |
+
},
|
163 |
+
"128020": {
|
164 |
+
"content": "__de__",
|
165 |
+
"lstrip": true,
|
166 |
+
"normalized": false,
|
167 |
+
"rstrip": true,
|
168 |
+
"single_word": false,
|
169 |
+
"special": true
|
170 |
+
},
|
171 |
+
"128021": {
|
172 |
+
"content": "__el__",
|
173 |
+
"lstrip": true,
|
174 |
+
"normalized": false,
|
175 |
+
"rstrip": true,
|
176 |
+
"single_word": false,
|
177 |
+
"special": true
|
178 |
+
},
|
179 |
+
"128022": {
|
180 |
+
"content": "__en__",
|
181 |
+
"lstrip": true,
|
182 |
+
"normalized": false,
|
183 |
+
"rstrip": true,
|
184 |
+
"single_word": false,
|
185 |
+
"special": true
|
186 |
+
},
|
187 |
+
"128023": {
|
188 |
+
"content": "__es__",
|
189 |
+
"lstrip": true,
|
190 |
+
"normalized": false,
|
191 |
+
"rstrip": true,
|
192 |
+
"single_word": false,
|
193 |
+
"special": true
|
194 |
+
},
|
195 |
+
"128024": {
|
196 |
+
"content": "__et__",
|
197 |
+
"lstrip": true,
|
198 |
+
"normalized": false,
|
199 |
+
"rstrip": true,
|
200 |
+
"single_word": false,
|
201 |
+
"special": true
|
202 |
+
},
|
203 |
+
"128025": {
|
204 |
+
"content": "__fa__",
|
205 |
+
"lstrip": true,
|
206 |
+
"normalized": false,
|
207 |
+
"rstrip": true,
|
208 |
+
"single_word": false,
|
209 |
+
"special": true
|
210 |
+
},
|
211 |
+
"128026": {
|
212 |
+
"content": "__ff__",
|
213 |
+
"lstrip": true,
|
214 |
+
"normalized": false,
|
215 |
+
"rstrip": true,
|
216 |
+
"single_word": false,
|
217 |
+
"special": true
|
218 |
+
},
|
219 |
+
"128027": {
|
220 |
+
"content": "__fi__",
|
221 |
+
"lstrip": true,
|
222 |
+
"normalized": false,
|
223 |
+
"rstrip": true,
|
224 |
+
"single_word": false,
|
225 |
+
"special": true
|
226 |
+
},
|
227 |
+
"128028": {
|
228 |
+
"content": "__fr__",
|
229 |
+
"lstrip": true,
|
230 |
+
"normalized": false,
|
231 |
+
"rstrip": true,
|
232 |
+
"single_word": false,
|
233 |
+
"special": true
|
234 |
+
},
|
235 |
+
"128029": {
|
236 |
+
"content": "__fy__",
|
237 |
+
"lstrip": true,
|
238 |
+
"normalized": false,
|
239 |
+
"rstrip": true,
|
240 |
+
"single_word": false,
|
241 |
+
"special": true
|
242 |
+
},
|
243 |
+
"128030": {
|
244 |
+
"content": "__ga__",
|
245 |
+
"lstrip": true,
|
246 |
+
"normalized": false,
|
247 |
+
"rstrip": true,
|
248 |
+
"single_word": false,
|
249 |
+
"special": true
|
250 |
+
},
|
251 |
+
"128031": {
|
252 |
+
"content": "__gd__",
|
253 |
+
"lstrip": true,
|
254 |
+
"normalized": false,
|
255 |
+
"rstrip": true,
|
256 |
+
"single_word": false,
|
257 |
+
"special": true
|
258 |
+
},
|
259 |
+
"128032": {
|
260 |
+
"content": "__gl__",
|
261 |
+
"lstrip": true,
|
262 |
+
"normalized": false,
|
263 |
+
"rstrip": true,
|
264 |
+
"single_word": false,
|
265 |
+
"special": true
|
266 |
+
},
|
267 |
+
"128033": {
|
268 |
+
"content": "__gu__",
|
269 |
+
"lstrip": true,
|
270 |
+
"normalized": false,
|
271 |
+
"rstrip": true,
|
272 |
+
"single_word": false,
|
273 |
+
"special": true
|
274 |
+
},
|
275 |
+
"128034": {
|
276 |
+
"content": "__ha__",
|
277 |
+
"lstrip": true,
|
278 |
+
"normalized": false,
|
279 |
+
"rstrip": true,
|
280 |
+
"single_word": false,
|
281 |
+
"special": true
|
282 |
+
},
|
283 |
+
"128035": {
|
284 |
+
"content": "__he__",
|
285 |
+
"lstrip": true,
|
286 |
+
"normalized": false,
|
287 |
+
"rstrip": true,
|
288 |
+
"single_word": false,
|
289 |
+
"special": true
|
290 |
+
},
|
291 |
+
"128036": {
|
292 |
+
"content": "__hi__",
|
293 |
+
"lstrip": true,
|
294 |
+
"normalized": false,
|
295 |
+
"rstrip": true,
|
296 |
+
"single_word": false,
|
297 |
+
"special": true
|
298 |
+
},
|
299 |
+
"128037": {
|
300 |
+
"content": "__hr__",
|
301 |
+
"lstrip": true,
|
302 |
+
"normalized": false,
|
303 |
+
"rstrip": true,
|
304 |
+
"single_word": false,
|
305 |
+
"special": true
|
306 |
+
},
|
307 |
+
"128038": {
|
308 |
+
"content": "__ht__",
|
309 |
+
"lstrip": true,
|
310 |
+
"normalized": false,
|
311 |
+
"rstrip": true,
|
312 |
+
"single_word": false,
|
313 |
+
"special": true
|
314 |
+
},
|
315 |
+
"128039": {
|
316 |
+
"content": "__hu__",
|
317 |
+
"lstrip": true,
|
318 |
+
"normalized": false,
|
319 |
+
"rstrip": true,
|
320 |
+
"single_word": false,
|
321 |
+
"special": true
|
322 |
+
},
|
323 |
+
"128040": {
|
324 |
+
"content": "__hy__",
|
325 |
+
"lstrip": true,
|
326 |
+
"normalized": false,
|
327 |
+
"rstrip": true,
|
328 |
+
"single_word": false,
|
329 |
+
"special": true
|
330 |
+
},
|
331 |
+
"128041": {
|
332 |
+
"content": "__id__",
|
333 |
+
"lstrip": true,
|
334 |
+
"normalized": false,
|
335 |
+
"rstrip": true,
|
336 |
+
"single_word": false,
|
337 |
+
"special": true
|
338 |
+
},
|
339 |
+
"128042": {
|
340 |
+
"content": "__ig__",
|
341 |
+
"lstrip": true,
|
342 |
+
"normalized": false,
|
343 |
+
"rstrip": true,
|
344 |
+
"single_word": false,
|
345 |
+
"special": true
|
346 |
+
},
|
347 |
+
"128043": {
|
348 |
+
"content": "__ilo__",
|
349 |
+
"lstrip": true,
|
350 |
+
"normalized": false,
|
351 |
+
"rstrip": true,
|
352 |
+
"single_word": false,
|
353 |
+
"special": true
|
354 |
+
},
|
355 |
+
"128044": {
|
356 |
+
"content": "__is__",
|
357 |
+
"lstrip": true,
|
358 |
+
"normalized": false,
|
359 |
+
"rstrip": true,
|
360 |
+
"single_word": false,
|
361 |
+
"special": true
|
362 |
+
},
|
363 |
+
"128045": {
|
364 |
+
"content": "__it__",
|
365 |
+
"lstrip": true,
|
366 |
+
"normalized": false,
|
367 |
+
"rstrip": true,
|
368 |
+
"single_word": false,
|
369 |
+
"special": true
|
370 |
+
},
|
371 |
+
"128046": {
|
372 |
+
"content": "__ja__",
|
373 |
+
"lstrip": true,
|
374 |
+
"normalized": false,
|
375 |
+
"rstrip": true,
|
376 |
+
"single_word": false,
|
377 |
+
"special": true
|
378 |
+
},
|
379 |
+
"128047": {
|
380 |
+
"content": "__jv__",
|
381 |
+
"lstrip": true,
|
382 |
+
"normalized": false,
|
383 |
+
"rstrip": true,
|
384 |
+
"single_word": false,
|
385 |
+
"special": true
|
386 |
+
},
|
387 |
+
"128048": {
|
388 |
+
"content": "__ka__",
|
389 |
+
"lstrip": true,
|
390 |
+
"normalized": false,
|
391 |
+
"rstrip": true,
|
392 |
+
"single_word": false,
|
393 |
+
"special": true
|
394 |
+
},
|
395 |
+
"128049": {
|
396 |
+
"content": "__kk__",
|
397 |
+
"lstrip": true,
|
398 |
+
"normalized": false,
|
399 |
+
"rstrip": true,
|
400 |
+
"single_word": false,
|
401 |
+
"special": true
|
402 |
+
},
|
403 |
+
"128050": {
|
404 |
+
"content": "__km__",
|
405 |
+
"lstrip": true,
|
406 |
+
"normalized": false,
|
407 |
+
"rstrip": true,
|
408 |
+
"single_word": false,
|
409 |
+
"special": true
|
410 |
+
},
|
411 |
+
"128051": {
|
412 |
+
"content": "__kn__",
|
413 |
+
"lstrip": true,
|
414 |
+
"normalized": false,
|
415 |
+
"rstrip": true,
|
416 |
+
"single_word": false,
|
417 |
+
"special": true
|
418 |
+
},
|
419 |
+
"128052": {
|
420 |
+
"content": "__ko__",
|
421 |
+
"lstrip": true,
|
422 |
+
"normalized": false,
|
423 |
+
"rstrip": true,
|
424 |
+
"single_word": false,
|
425 |
+
"special": true
|
426 |
+
},
|
427 |
+
"128053": {
|
428 |
+
"content": "__lb__",
|
429 |
+
"lstrip": true,
|
430 |
+
"normalized": false,
|
431 |
+
"rstrip": true,
|
432 |
+
"single_word": false,
|
433 |
+
"special": true
|
434 |
+
},
|
435 |
+
"128054": {
|
436 |
+
"content": "__lg__",
|
437 |
+
"lstrip": true,
|
438 |
+
"normalized": false,
|
439 |
+
"rstrip": true,
|
440 |
+
"single_word": false,
|
441 |
+
"special": true
|
442 |
+
},
|
443 |
+
"128055": {
|
444 |
+
"content": "__ln__",
|
445 |
+
"lstrip": true,
|
446 |
+
"normalized": false,
|
447 |
+
"rstrip": true,
|
448 |
+
"single_word": false,
|
449 |
+
"special": true
|
450 |
+
},
|
451 |
+
"128056": {
|
452 |
+
"content": "__lo__",
|
453 |
+
"lstrip": true,
|
454 |
+
"normalized": false,
|
455 |
+
"rstrip": true,
|
456 |
+
"single_word": false,
|
457 |
+
"special": true
|
458 |
+
},
|
459 |
+
"128057": {
|
460 |
+
"content": "__lt__",
|
461 |
+
"lstrip": true,
|
462 |
+
"normalized": false,
|
463 |
+
"rstrip": true,
|
464 |
+
"single_word": false,
|
465 |
+
"special": true
|
466 |
+
},
|
467 |
+
"128058": {
|
468 |
+
"content": "__lv__",
|
469 |
+
"lstrip": true,
|
470 |
+
"normalized": false,
|
471 |
+
"rstrip": true,
|
472 |
+
"single_word": false,
|
473 |
+
"special": true
|
474 |
+
},
|
475 |
+
"128059": {
|
476 |
+
"content": "__mg__",
|
477 |
+
"lstrip": true,
|
478 |
+
"normalized": false,
|
479 |
+
"rstrip": true,
|
480 |
+
"single_word": false,
|
481 |
+
"special": true
|
482 |
+
},
|
483 |
+
"128060": {
|
484 |
+
"content": "__mk__",
|
485 |
+
"lstrip": true,
|
486 |
+
"normalized": false,
|
487 |
+
"rstrip": true,
|
488 |
+
"single_word": false,
|
489 |
+
"special": true
|
490 |
+
},
|
491 |
+
"128061": {
|
492 |
+
"content": "__ml__",
|
493 |
+
"lstrip": true,
|
494 |
+
"normalized": false,
|
495 |
+
"rstrip": true,
|
496 |
+
"single_word": false,
|
497 |
+
"special": true
|
498 |
+
},
|
499 |
+
"128062": {
|
500 |
+
"content": "__mn__",
|
501 |
+
"lstrip": true,
|
502 |
+
"normalized": false,
|
503 |
+
"rstrip": true,
|
504 |
+
"single_word": false,
|
505 |
+
"special": true
|
506 |
+
},
|
507 |
+
"128063": {
|
508 |
+
"content": "__mr__",
|
509 |
+
"lstrip": true,
|
510 |
+
"normalized": false,
|
511 |
+
"rstrip": true,
|
512 |
+
"single_word": false,
|
513 |
+
"special": true
|
514 |
+
},
|
515 |
+
"128064": {
|
516 |
+
"content": "__ms__",
|
517 |
+
"lstrip": true,
|
518 |
+
"normalized": false,
|
519 |
+
"rstrip": true,
|
520 |
+
"single_word": false,
|
521 |
+
"special": true
|
522 |
+
},
|
523 |
+
"128065": {
|
524 |
+
"content": "__my__",
|
525 |
+
"lstrip": true,
|
526 |
+
"normalized": false,
|
527 |
+
"rstrip": true,
|
528 |
+
"single_word": false,
|
529 |
+
"special": true
|
530 |
+
},
|
531 |
+
"128066": {
|
532 |
+
"content": "__ne__",
|
533 |
+
"lstrip": true,
|
534 |
+
"normalized": false,
|
535 |
+
"rstrip": true,
|
536 |
+
"single_word": false,
|
537 |
+
"special": true
|
538 |
+
},
|
539 |
+
"128067": {
|
540 |
+
"content": "__nl__",
|
541 |
+
"lstrip": true,
|
542 |
+
"normalized": false,
|
543 |
+
"rstrip": true,
|
544 |
+
"single_word": false,
|
545 |
+
"special": true
|
546 |
+
},
|
547 |
+
"128068": {
|
548 |
+
"content": "__no__",
|
549 |
+
"lstrip": true,
|
550 |
+
"normalized": false,
|
551 |
+
"rstrip": true,
|
552 |
+
"single_word": false,
|
553 |
+
"special": true
|
554 |
+
},
|
555 |
+
"128069": {
|
556 |
+
"content": "__ns__",
|
557 |
+
"lstrip": true,
|
558 |
+
"normalized": false,
|
559 |
+
"rstrip": true,
|
560 |
+
"single_word": false,
|
561 |
+
"special": true
|
562 |
+
},
|
563 |
+
"128070": {
|
564 |
+
"content": "__oc__",
|
565 |
+
"lstrip": true,
|
566 |
+
"normalized": false,
|
567 |
+
"rstrip": true,
|
568 |
+
"single_word": false,
|
569 |
+
"special": true
|
570 |
+
},
|
571 |
+
"128071": {
|
572 |
+
"content": "__or__",
|
573 |
+
"lstrip": true,
|
574 |
+
"normalized": false,
|
575 |
+
"rstrip": true,
|
576 |
+
"single_word": false,
|
577 |
+
"special": true
|
578 |
+
},
|
579 |
+
"128072": {
|
580 |
+
"content": "__pa__",
|
581 |
+
"lstrip": true,
|
582 |
+
"normalized": false,
|
583 |
+
"rstrip": true,
|
584 |
+
"single_word": false,
|
585 |
+
"special": true
|
586 |
+
},
|
587 |
+
"128073": {
|
588 |
+
"content": "__pl__",
|
589 |
+
"lstrip": true,
|
590 |
+
"normalized": false,
|
591 |
+
"rstrip": true,
|
592 |
+
"single_word": false,
|
593 |
+
"special": true
|
594 |
+
},
|
595 |
+
"128074": {
|
596 |
+
"content": "__ps__",
|
597 |
+
"lstrip": true,
|
598 |
+
"normalized": false,
|
599 |
+
"rstrip": true,
|
600 |
+
"single_word": false,
|
601 |
+
"special": true
|
602 |
+
},
|
603 |
+
"128075": {
|
604 |
+
"content": "__pt__",
|
605 |
+
"lstrip": true,
|
606 |
+
"normalized": false,
|
607 |
+
"rstrip": true,
|
608 |
+
"single_word": false,
|
609 |
+
"special": true
|
610 |
+
},
|
611 |
+
"128076": {
|
612 |
+
"content": "__ro__",
|
613 |
+
"lstrip": true,
|
614 |
+
"normalized": false,
|
615 |
+
"rstrip": true,
|
616 |
+
"single_word": false,
|
617 |
+
"special": true
|
618 |
+
},
|
619 |
+
"128077": {
|
620 |
+
"content": "__ru__",
|
621 |
+
"lstrip": true,
|
622 |
+
"normalized": false,
|
623 |
+
"rstrip": true,
|
624 |
+
"single_word": false,
|
625 |
+
"special": true
|
626 |
+
},
|
627 |
+
"128078": {
|
628 |
+
"content": "__sd__",
|
629 |
+
"lstrip": true,
|
630 |
+
"normalized": false,
|
631 |
+
"rstrip": true,
|
632 |
+
"single_word": false,
|
633 |
+
"special": true
|
634 |
+
},
|
635 |
+
"128079": {
|
636 |
+
"content": "__si__",
|
637 |
+
"lstrip": true,
|
638 |
+
"normalized": false,
|
639 |
+
"rstrip": true,
|
640 |
+
"single_word": false,
|
641 |
+
"special": true
|
642 |
+
},
|
643 |
+
"128080": {
|
644 |
+
"content": "__sk__",
|
645 |
+
"lstrip": true,
|
646 |
+
"normalized": false,
|
647 |
+
"rstrip": true,
|
648 |
+
"single_word": false,
|
649 |
+
"special": true
|
650 |
+
},
|
651 |
+
"128081": {
|
652 |
+
"content": "__sl__",
|
653 |
+
"lstrip": true,
|
654 |
+
"normalized": false,
|
655 |
+
"rstrip": true,
|
656 |
+
"single_word": false,
|
657 |
+
"special": true
|
658 |
+
},
|
659 |
+
"128082": {
|
660 |
+
"content": "__so__",
|
661 |
+
"lstrip": true,
|
662 |
+
"normalized": false,
|
663 |
+
"rstrip": true,
|
664 |
+
"single_word": false,
|
665 |
+
"special": true
|
666 |
+
},
|
667 |
+
"128083": {
|
668 |
+
"content": "__sq__",
|
669 |
+
"lstrip": true,
|
670 |
+
"normalized": false,
|
671 |
+
"rstrip": true,
|
672 |
+
"single_word": false,
|
673 |
+
"special": true
|
674 |
+
},
|
675 |
+
"128084": {
|
676 |
+
"content": "__sr__",
|
677 |
+
"lstrip": true,
|
678 |
+
"normalized": false,
|
679 |
+
"rstrip": true,
|
680 |
+
"single_word": false,
|
681 |
+
"special": true
|
682 |
+
},
|
683 |
+
"128085": {
|
684 |
+
"content": "__ss__",
|
685 |
+
"lstrip": true,
|
686 |
+
"normalized": false,
|
687 |
+
"rstrip": true,
|
688 |
+
"single_word": false,
|
689 |
+
"special": true
|
690 |
+
},
|
691 |
+
"128086": {
|
692 |
+
"content": "__su__",
|
693 |
+
"lstrip": true,
|
694 |
+
"normalized": false,
|
695 |
+
"rstrip": true,
|
696 |
+
"single_word": false,
|
697 |
+
"special": true
|
698 |
+
},
|
699 |
+
"128087": {
|
700 |
+
"content": "__sv__",
|
701 |
+
"lstrip": true,
|
702 |
+
"normalized": false,
|
703 |
+
"rstrip": true,
|
704 |
+
"single_word": false,
|
705 |
+
"special": true
|
706 |
+
},
|
707 |
+
"128088": {
|
708 |
+
"content": "__sw__",
|
709 |
+
"lstrip": true,
|
710 |
+
"normalized": false,
|
711 |
+
"rstrip": true,
|
712 |
+
"single_word": false,
|
713 |
+
"special": true
|
714 |
+
},
|
715 |
+
"128089": {
|
716 |
+
"content": "__ta__",
|
717 |
+
"lstrip": true,
|
718 |
+
"normalized": false,
|
719 |
+
"rstrip": true,
|
720 |
+
"single_word": false,
|
721 |
+
"special": true
|
722 |
+
},
|
723 |
+
"128090": {
|
724 |
+
"content": "__th__",
|
725 |
+
"lstrip": true,
|
726 |
+
"normalized": false,
|
727 |
+
"rstrip": true,
|
728 |
+
"single_word": false,
|
729 |
+
"special": true
|
730 |
+
},
|
731 |
+
"128091": {
|
732 |
+
"content": "__tl__",
|
733 |
+
"lstrip": true,
|
734 |
+
"normalized": false,
|
735 |
+
"rstrip": true,
|
736 |
+
"single_word": false,
|
737 |
+
"special": true
|
738 |
+
},
|
739 |
+
"128092": {
|
740 |
+
"content": "__tn__",
|
741 |
+
"lstrip": true,
|
742 |
+
"normalized": false,
|
743 |
+
"rstrip": true,
|
744 |
+
"single_word": false,
|
745 |
+
"special": true
|
746 |
+
},
|
747 |
+
"128093": {
|
748 |
+
"content": "__tr__",
|
749 |
+
"lstrip": true,
|
750 |
+
"normalized": false,
|
751 |
+
"rstrip": true,
|
752 |
+
"single_word": false,
|
753 |
+
"special": true
|
754 |
+
},
|
755 |
+
"128094": {
|
756 |
+
"content": "__uk__",
|
757 |
+
"lstrip": true,
|
758 |
+
"normalized": false,
|
759 |
+
"rstrip": true,
|
760 |
+
"single_word": false,
|
761 |
+
"special": true
|
762 |
+
},
|
763 |
+
"128095": {
|
764 |
+
"content": "__ur__",
|
765 |
+
"lstrip": true,
|
766 |
+
"normalized": false,
|
767 |
+
"rstrip": true,
|
768 |
+
"single_word": false,
|
769 |
+
"special": true
|
770 |
+
},
|
771 |
+
"128096": {
|
772 |
+
"content": "__uz__",
|
773 |
+
"lstrip": true,
|
774 |
+
"normalized": false,
|
775 |
+
"rstrip": true,
|
776 |
+
"single_word": false,
|
777 |
+
"special": true
|
778 |
+
},
|
779 |
+
"128097": {
|
780 |
+
"content": "__vi__",
|
781 |
+
"lstrip": true,
|
782 |
+
"normalized": false,
|
783 |
+
"rstrip": true,
|
784 |
+
"single_word": false,
|
785 |
+
"special": true
|
786 |
+
},
|
787 |
+
"128098": {
|
788 |
+
"content": "__wo__",
|
789 |
+
"lstrip": true,
|
790 |
+
"normalized": false,
|
791 |
+
"rstrip": true,
|
792 |
+
"single_word": false,
|
793 |
+
"special": true
|
794 |
+
},
|
795 |
+
"128099": {
|
796 |
+
"content": "__xh__",
|
797 |
+
"lstrip": true,
|
798 |
+
"normalized": false,
|
799 |
+
"rstrip": true,
|
800 |
+
"single_word": false,
|
801 |
+
"special": true
|
802 |
+
},
|
803 |
+
"128100": {
|
804 |
+
"content": "__yi__",
|
805 |
+
"lstrip": true,
|
806 |
+
"normalized": false,
|
807 |
+
"rstrip": true,
|
808 |
+
"single_word": false,
|
809 |
+
"special": true
|
810 |
+
},
|
811 |
+
"128101": {
|
812 |
+
"content": "__yo__",
|
813 |
+
"lstrip": true,
|
814 |
+
"normalized": false,
|
815 |
+
"rstrip": true,
|
816 |
+
"single_word": false,
|
817 |
+
"special": true
|
818 |
+
},
|
819 |
+
"128102": {
|
820 |
+
"content": "__zh__",
|
821 |
+
"lstrip": true,
|
822 |
+
"normalized": false,
|
823 |
+
"rstrip": true,
|
824 |
+
"single_word": false,
|
825 |
+
"special": true
|
826 |
+
},
|
827 |
+
"128103": {
|
828 |
+
"content": "__zu__",
|
829 |
+
"lstrip": true,
|
830 |
+
"normalized": false,
|
831 |
+
"rstrip": true,
|
832 |
+
"single_word": false,
|
833 |
+
"special": true
|
834 |
+
}
|
835 |
+
},
|
836 |
+
"additional_special_tokens": [
|
837 |
+
"__af__",
|
838 |
+
"__am__",
|
839 |
+
"__ar__",
|
840 |
+
"__ast__",
|
841 |
+
"__az__",
|
842 |
+
"__ba__",
|
843 |
+
"__be__",
|
844 |
+
"__bg__",
|
845 |
+
"__bn__",
|
846 |
+
"__br__",
|
847 |
+
"__bs__",
|
848 |
+
"__ca__",
|
849 |
+
"__ceb__",
|
850 |
+
"__cs__",
|
851 |
+
"__cy__",
|
852 |
+
"__da__",
|
853 |
+
"__de__",
|
854 |
+
"__el__",
|
855 |
+
"__en__",
|
856 |
+
"__es__",
|
857 |
+
"__et__",
|
858 |
+
"__fa__",
|
859 |
+
"__ff__",
|
860 |
+
"__fi__",
|
861 |
+
"__fr__",
|
862 |
+
"__fy__",
|
863 |
+
"__ga__",
|
864 |
+
"__gd__",
|
865 |
+
"__gl__",
|
866 |
+
"__gu__",
|
867 |
+
"__ha__",
|
868 |
+
"__he__",
|
869 |
+
"__hi__",
|
870 |
+
"__hr__",
|
871 |
+
"__ht__",
|
872 |
+
"__hu__",
|
873 |
+
"__hy__",
|
874 |
+
"__id__",
|
875 |
+
"__ig__",
|
876 |
+
"__ilo__",
|
877 |
+
"__is__",
|
878 |
+
"__it__",
|
879 |
+
"__ja__",
|
880 |
+
"__jv__",
|
881 |
+
"__ka__",
|
882 |
+
"__kk__",
|
883 |
+
"__km__",
|
884 |
+
"__kn__",
|
885 |
+
"__ko__",
|
886 |
+
"__lb__",
|
887 |
+
"__lg__",
|
888 |
+
"__ln__",
|
889 |
+
"__lo__",
|
890 |
+
"__lt__",
|
891 |
+
"__lv__",
|
892 |
+
"__mg__",
|
893 |
+
"__mk__",
|
894 |
+
"__ml__",
|
895 |
+
"__mn__",
|
896 |
+
"__mr__",
|
897 |
+
"__ms__",
|
898 |
+
"__my__",
|
899 |
+
"__ne__",
|
900 |
+
"__nl__",
|
901 |
+
"__no__",
|
902 |
+
"__ns__",
|
903 |
+
"__oc__",
|
904 |
+
"__or__",
|
905 |
+
"__pa__",
|
906 |
+
"__pl__",
|
907 |
+
"__ps__",
|
908 |
+
"__pt__",
|
909 |
+
"__ro__",
|
910 |
+
"__ru__",
|
911 |
+
"__sd__",
|
912 |
+
"__si__",
|
913 |
+
"__sk__",
|
914 |
+
"__sl__",
|
915 |
+
"__so__",
|
916 |
+
"__sq__",
|
917 |
+
"__sr__",
|
918 |
+
"__ss__",
|
919 |
+
"__su__",
|
920 |
+
"__sv__",
|
921 |
+
"__sw__",
|
922 |
+
"__ta__",
|
923 |
+
"__th__",
|
924 |
+
"__tl__",
|
925 |
+
"__tn__",
|
926 |
+
"__tr__",
|
927 |
+
"__uk__",
|
928 |
+
"__ur__",
|
929 |
+
"__uz__",
|
930 |
+
"__vi__",
|
931 |
+
"__wo__",
|
932 |
+
"__xh__",
|
933 |
+
"__yi__",
|
934 |
+
"__yo__",
|
935 |
+
"__zh__",
|
936 |
+
"__zu__"
|
937 |
+
],
|
938 |
+
"bos_token": "<s>",
|
939 |
+
"clean_up_tokenization_spaces": true,
|
940 |
+
"eos_token": "</s>",
|
941 |
+
"language_codes": "m2m100",
|
942 |
+
"model_max_length": 1000000000000000019884624838656,
|
943 |
+
"num_madeup_words": 8,
|
944 |
+
"pad_token": "<pad>",
|
945 |
+
"sep_token": "</s>",
|
946 |
+
"sp_model_kwargs": {},
|
947 |
+
"src_lang": null,
|
948 |
+
"tgt_lang": null,
|
949 |
+
"tokenizer_class": "M2M100Tokenizer",
|
950 |
+
"tokenizer_file": null,
|
951 |
+
"unk_token": "<unk>"
|
952 |
+
}
|
training_args.bin
ADDED
@@ -0,0 +1,3 @@
|
|
|
|
|
|
|
|
|
1 |
+
version https://git-lfs.github.com/spec/v1
|
2 |
+
oid sha256:090774c0bd118d537573e37f14e47eefd4a6f4c35802ea313b9ad799698fe5af
|
3 |
+
size 4219
|
vocab.json
ADDED
The diff for this file is too large to render.
See raw diff
|
|