Update README.md

README.md

@@ -7,37 +7,19 @@ language:
 tags:
 - not-for-all-audiences
 ---
-纯手工用眼睛和手细细切做臊子的中文长文本语料
-
-下载：`$env:HF_ENDPOINT="https://hf-mirror.com"; python -c "from huggingface_hub import snapshot_download; snapshot_download(repo_id='Limour/b-corpus', repo_type='dataset', local_dir=r'D:\datasets\tmp')"`
+纯手工用眼睛和手细细切做臊子的中文长文本语料，带人名标注的视觉小说语料。
 
 1. 清洗要求：`全角转半角` | `繁体转简体`
 2. 内部去重：`s/(.)\1{3,}/$1$1$1/g` | `s/(.{2,}?)\1{2,}/$1/g` | `s/(((^.*$)[\r\n]*){1,10}?)\1{1,}/$1/g`
-3. 杂项：`s/^([\x00-\x3e\x40-\xff]{1,4})[\x00-\xff]*：/$1：/g`
-4. 错字：`s/巴巴/爸爸/g` | `s/阿阿+/啊啊/g` | `s/很抄/很吵/g` | `s/能苟/能够/g`
-5. 错字：`s/拉\b/啦/g` | `s/巴\b/吧/g` | `s/阿\b/啊/g`
-6. 一个完整对话为一个文件
-7. 一行的格式为 `{NAME}：{DIALOGUE}`('：'为中文冒号)
-8. 旁白的 {NAME} 为 `旁白`
-9. 未知人物的 {NAME} 为 `?`
-10. 可以从旁白推断的主角的 {NAME} 为 `我/名字`，否则为 `名字`
-11. 如万华镜等主角名字改变的，`名字` 变，`我/` 不变
-12. 除 `b-corpus\视觉小说\format` 外的语料的作用是增加多样性
-13. 完整保留涩涩内容，部分内容涉及*错误世界观和道德伦理*
-14. 注意：部分多视角的语料，随着旁白的改变，主角也可能会改变
-15. `b-corpus\v-corpus-en` 来自 [alpindale](https://huggingface.co/alpindale)/[visual-novels](https://huggingface.co/datasets/alpindale/visual-novels), 或许可以翻译成中文？
-16. 将数据按 `制作会社\作品名` 进行了整理，并修复了一些小错误，保存在 `v-corpus-zh` 目录下
-17. 有空闲时间的话，可以去[梓澪の妙妙屋](https://zi0.cc/)下游戏后，解包整理。
-```python
-from opencc import OpenCC
-cc = OpenCC('t2s')  # 't2s'表示繁体转简体
-import unicodedata
-def fullwidth_to_halfwidth(input_str):
-    return ''.join((unicodedata.normalize('NFKC', char) for char in input_str))
-def clearT(s):
-    s = cc.convert(fullwidth_to_halfwidth(s))
-    return s.strip()
-```
+3. 一个完整对话为一个文件
+4. 一行的格式为 `{NAME}：{DIALOGUE}`('：'为中文冒号)
+5. 旁白的 {NAME} 为 `旁白`
+6. 未知人物的 {NAME} 为 `?`
+7. 完整保留涩涩内容，部分内容涉及*错误世界观和道德伦理*
+8. `b-corpus\v-corpus-en` 来自 [alpindale](https://huggingface.co/alpindale)/[visual-novels](https://huggingface.co/datasets/alpindale/visual-novels), 或许可以翻译成中文？
+9. 将数据按 `制作会社\作品名` 进行了整理，保存在 `v-corpus-zh` 目录下
+10. 有空闲时间的话，可以去[梓澪の妙妙屋](https://zi0.cc/)下游戏后，解包整理。
+11. 希望能有同志一起构建数据集
 + 错误价值观举例
 ```txt
 旁白：她抵达了终之空。
@@ -121,4 +103,24 @@ def clearT(s):
 我/块斗：「啾......哈啊、哈啊......呜喔喔!?」
 月咏3：「呼......嗯、嗯......呼呼、主人,舒服吗......?」
 旁白：往身下看去,发现第三个月咏用胸部夹住了我的股间。
-```
+```
+```python
+def clearT():
+    import unicodedata
+    from opencc import OpenCC
+
+    def full2half(input_str):
+        return ''.join([unicodedata.normalize('NFKC', char) for char in input_str])
+
+    cc = OpenCC('t2s')  # 't2s'表示繁体转简体
+
+    def _clearT(s):
+        s = cc.convert(full2half(s))
+        return s.strip().replace('\n', '\\n')
+
+    return _clearT
+
+
+clearT = clearT()
+```
+下载：`$env:HF_ENDPOINT="https://hf-mirror.com"; python -c "from huggingface_hub import snapshot_download; snapshot_download(repo_id='Limour/b-corpus', repo_type='dataset', local_dir=r'D:\datasets\tmp')"`