Update README.md
Browse files
README.md
CHANGED
|
@@ -19,3 +19,10 @@ configs:
|
|
| 19 |
- split: train
|
| 20 |
path: data/train-*
|
| 21 |
---
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 19 |
- split: train
|
| 20 |
path: data/train-*
|
| 21 |
---
|
| 22 |
+
|
| 23 |
+
＃ cc100-ja-documents
|
| 24 |
+
|
| 25 |
+
- [cc100-ja](https://huggingface.co/datasets/range3/cc100-ja) を document 単位のデータセット
|
| 26 |
+
- HuggingFace で公開されている cc100 / cc100-ja は line 単位の分割のため、空行が入ったり、1行あたりのテキストが短い、コンテキストが本来前後のlineであるのに抜け落ちてしまう。
|
| 27 |
+
- そのため、document 単位に結合したものです
|
| 28 |
+
- ライセンスはオリジナルの cc100 に準拠します
|