|
--- |
|
license: cc-by-nc-sa-4.0 |
|
task_categories: |
|
- text-generation |
|
language: |
|
- zh |
|
tags: |
|
- not-for-all-audiences |
|
--- |
|
纯手工用眼睛和手细细切做臊子的中文长文本语料 |
|
|
|
下载：`$env:HF_ENDPOINT="https://hf-mirror.com"; python -c "from huggingface_hub import snapshot_download; snapshot_download(repo_id='Limour/b-corpus', repo_type='dataset', local_dir=r'D:\datasets\tmp')"` |
|
|
|
1. 清洗要求：`全角转半角` | `繁体转简体` |
|
2. 内部去重：`s/(.)\1{3,}/$1$1$1/g` | `s/(.{2,}?)\1{2,}/$1/g` | `s/(((^.*$)[\r\n]*){1,10}?)\1{1,}/$1/g` |
|
3. 杂项：`s/^([\x00-\x3e\x40-\xff]{1,4})[\x00-\xff]*：/$1：/g` |
|
4. 错字：`s/巴巴/爸爸/g` | `s/阿阿+/啊啊/g` | `s/很抄/很吵/g` | `s/能苟/能够/g` |
|
5. 错字：`s/拉\b/啦/g` | `s/巴\b/吧/g` | `s/阿\b/啊/g` |
|
6. 一个完整对话为一个文件 |
|
7. 一行的格式为 `{NAME}：{DIALOGUE}`('：'为中文冒号) |
|
8. 旁白的 {NAME} 为 `旁白` |
|
9. 未知人物的 {NAME} 为 `?` |
|
10. 可以从旁白推断的主角的 {NAME} 为 `我/名字`，否则为 `名字` |
|
11. 如万华镜等主角名字改变的，`名字` 变，`我/` 不变 |
|
12. 除 `b-corpus\视觉小说\format` 外的语料的作用是增加多样性 |
|
13. 完整保留涩涩内容，部分内容涉及*错误世界观和道德伦理* |
|
14. 注意：部分多视角的语料，随着旁白的改变，主角也可能会改变 |
|
15. `b-corpus\v-corpus-en` 来自 [alpindale](https://huggingface.co/alpindale)/[visual-novels](https://huggingface.co/datasets/alpindale/visual-novels), 或许可以翻译成中文？ |
|
16. 将数据按 `制作会社\作品名` 进行了整理，并修复了一些小错误，保存在 `v-corpus-zh` 目录下 |
|
17. 有空闲时间的话，可以去[梓澪の妙妙屋](https://zi0.cc/)下游戏后，解包整理。 |
|
```python |
|
from opencc import OpenCC |
|
cc = OpenCC('t2s') # 't2s'表示繁体转简体 |
|
import unicodedata |
|
def fullwidth_to_halfwidth(input_str): |
|
return ''.join((unicodedata.normalize('NFKC', char) for char in input_str)) |
|
def clearT(s): |
|
s = cc.convert(fullwidth_to_halfwidth(s)) |
|
return s.strip() |
|
``` |
|
+ 错误价值观举例 |
|
```txt |
|
旁白：她抵达了终之空。 |
|
旁白：她已经超越了万物.... |
|
旁白：超越万物.... |
|
旁白：也就是, |
|
旁白：抵达极致.... |
|
女信徒A：野崎跳下去了! |
|
女信徒A：真棒。我们跟上吧!趁俗世的权利还没阻止我们抵达极致!! |
|
女信徒A：救世主大人 |
|
女信徒A：我先走一步 |
|
我/卓司：嗯 |
|
女性信者B：我也走了 |
|
女信徒C：我也....各位,保重 |
|
男信徒A：我也要....跟这不完美的世界说再见了。各位,再见.... |
|
由香：在完美的世界里,我们也要在一起, |
|
?：嗯—— |
|
由香：再见,救世主大人。非常感谢 |
|
我/卓司：嗯.... |
|
男信徒B：这样就能跟这个世界说再见了....我讨厌这个世界 |
|
男信徒B：以后就能在完美的世界里—— |
|
男信徒B：在完美的世界里,过上幸福的日子!! |
|
男信徒B：没有家人 |
|
男信徒B：没有老师 |
|
男信徒B：没有考试 |
|
男信徒B：也没有学校 |
|
男信徒C：完美的世界,我来了!! |
|
旁白：....信徒们一个个地抵达终之空.... |
|
``` |
|
```txt |
|
我/卓司：真的会有祝福自己诞生的人吗? |
|
我/卓司：正因为诅咒一切,在这个世界诞生,因为一切都是谬误,我们才—— |
|
行人：是啊,没错,是这样。如果诞生是惩罚的话,我们在诞生的瞬间就是丧家犬了.... |
|
我/卓司：那为什么—— |
|
行人：所以就要勒紧刚诞生的婴儿的脖子? |
|
旁白：我有些惊讶。 |
|
旁白：“掐住新生婴儿的脖子,将其人生在10分钟结束,谁也不会有异议” |
|
旁白：虽然这的确是我说的,但那是在方舟的演说上说的。我不认为行人会知道。 |
|
旁白：这样的话。 |
|
我/卓司：我们在思考同样的事? |
|
行人：谁知道呢?但我能断言,你的所作所为是错误的 |
|
旁白：即使如此,也要断定我是错的。 |
|
旁白：虽然很想听听他的理由,但若他是最后一人,也就没必要听了。 |
|
旁白：因为这是我在思考的事,而水上行人与我的判断完全相反—— |
|
我/卓司：被诅咒的,生 |
|
我/卓司：被祝福的,生 |
|
我/卓司：亦或者是—— |
|
我/卓司：被当做诅咒的,死 |
|
我/卓司：把这样的死,当做祝福接受 |
|
我/卓司：到这里为止,我和你的想法应该是一样的吧? |
|
``` |
|
+ 涩涩内容举例 |
|
```txt |
|
我/块斗：「哪个才是本体啊!?」 |
|
月咏：「都是本体哦。这是将自身的存在多次复制的结果」 |
|
月咏：「现技术已经支持了,只要大脑适应,就能复制多个自己,并随意行动」 |
|
月咏：「就好比自己的神经伸展到外部了的感觉」 |
|
我/块斗：「嚯嚯......」 |
|
旁白：我也能做到这样的吗......? |
|
月咏：「我一开始就是完全适应的状态......所以这种事也能做到」 |
|
旁白：齐刷刷走来的月咏大军将我围住,并把我推倒。 |
|
我/块斗：「哇......怎么了?」 |
|
月咏：「......在这里做爱的话,就不会对身体有负担了」 |
|
月咏：「但是,这样会将大脑的感受更直接的引导出来」 |
|
我/块斗：「......也就是说?」 |
|
月咏：「......非常抱歉,主人」 |
|
月咏：「我......大概是个相当色情的女孩子」 |
|
我/块斗：「放心吧。我对你的感情绝对不比你差」 |
|
月咏：「好开心......请让我好好侍奉您一番吧」 |
|
旁白：两侧的月咏靠近过来,并将她们的嘴唇贴了上来。 |
|
月咏1：「嗯......呼......啾......今天,请尽情享受吧......啾......」 |
|
旁白：站在身旁的月咏吸住我的嘴唇。 |
|
旁白：而且还抓住我的手往自己胸上压。 |
|
月咏1：「哈噗......啾、嗯嗯......啊哈......主人,你知道,啾......我现在心脏砰砰跳个不停吗......?」 |
|
月咏2：「要这样说,我的心脏现在也......扑通扑通地跳......主人......嗯嗯、请你确认一下......」 |
|
旁白：位于另一侧的月咏则是把我的手放在私处。 |
|
旁白：指尖有种湿润的触感。 |
|
月咏2：「啊......嗯、嗯......主人的手指......啊、啊......我的阴道里面,躁动不停......嗯嗯......好舒服......」 |
|
月咏1：「也请尽情摸我的胸部......嗯、啾、嗯溜噜......溜噜、啾......!」 |
|
旁白：像是为了对抗让我触摸秘部的月咏,另一个月咏吸住了我的舌头。 |
|
我/块斗：「啾......哈啊、哈啊......呜喔喔!?」 |
|
月咏3：「呼......嗯、嗯......呼呼、主人,舒服吗......?」 |
|
旁白：往身下看去,发现第三个月咏用胸部夹住了我的股间。 |
|
``` |
|
|
|
## 待大佬汉化中 |
|
+ [樱之刻](https://github.com/kono-dada/Sakuranotoki-Chinese) |
