--- license: cc-by-nc-sa-4.0 task_categories: - text-generation language: - zh --- 纯手工用眼睛和手细细切做臊子的中文长文本语料 1. 清洗要求:`全角转半角` | `繁体转简体` 2. 内部去重:`s/(.)\1{3,}/$1$1$1/g` | `s/(.{2,}?)\1{2,}/$1/g` | `s/(((^.*$)[\r\n]*){1,10}?)\1{1,}/$1/g` 3. 杂项:`s/^([\x00-\x3e\x40-\xff]{1,4})[\x00-\xff]*:/$1:/g` 4. 错字:`s/巴巴/爸爸/g` | `s/阿阿+/啊啊/g` | `s/很抄/很吵/g` | `s/能苟/能够/g` 5. 错字:`s/拉\b/啦/g` | `s/巴\b/吧/g` | `s/阿\b/啊/g` 6. 一个完整对话为一个文件 7. 一行的格式为 `{NAME}:{DIALOGUE}`(':'为中文冒号) 8. 旁白的 {NAME} 为 `旁白` 9. 未知人物的 {NAME} 为 '?' 10. 可以从旁白推断的主角的 {NAME} 为 `我/名字`,否则为 `名字` 11. 如万华镜等主角名字改变的,`名字` 变,`我/` 不变 12. 除 `b-corpus\视觉小说\format` 外的语料的作用是增加多样性 13. 完整保留涩涩内容,部分内容涉及*错误世界观和道德伦理* 14. 注意:部分多视角的语料,随着旁白的改变,主角也可能会改变 ```python from opencc import OpenCC cc = OpenCC('t2s') # 't2s'表示繁体转简体 import unicodedata def fullwidth_to_halfwidth(input_str): return ''.join((unicodedata.normalize('NFKC', char) for char in input_str)) def clearT(s): s = cc.convert(fullwidth_to_halfwidth(s)) return s.strip() ``` + 错误价值观举例 ```txt 旁白:她抵达了终之空。 旁白:她已经超越了万物.... 旁白:超越万物.... 旁白:也就是, 旁白:抵达极致.... 女信徒A:野崎跳下去了! 女信徒A:真棒。我们跟上吧!趁俗世的权利还没阻止我们抵达极致!! 女信徒A:救世主大人 女信徒A:我先走一步 我/卓司:嗯 女性信者B:我也走了 女信徒C:我也....各位,保重 男信徒A:我也要....跟这不完美的世界说再见了。各位,再见.... 由香:在完美的世界里,我们也要在一起, ?:嗯—— 由香:再见,救世主大人。非常感谢 我/卓司:嗯.... 男信徒B:这样就能跟这个世界说再见了....我讨厌这个世界 男信徒B:以后就能在完美的世界里—— 男信徒B:在完美的世界里,过上幸福的日子!! 男信徒B:没有家人 男信徒B:没有老师 男信徒B:没有考试 男信徒B:也没有学校 男信徒C:完美的世界,我来了!! 旁白:....信徒们一个个地抵达终之空.... ``` ```txt 我/卓司:真的会有祝福自己诞生的人吗? 我/卓司:正因为诅咒一切,在这个世界诞生,因为一切都是谬误,我们才—— 行人:是啊,没错,是这样。如果诞生是惩罚的话,我们在诞生的瞬间就是丧家犬了.... 我/卓司:那为什么—— 行人:所以就要勒紧刚诞生的婴儿的脖子? 旁白:我有些惊讶。 旁白:“掐住新生婴儿的脖子,将其人生在10分钟结束,谁也不会有异议” 旁白:虽然这的确是我说的,但那是在方舟的演说上说的。我不认为行人会知道。 旁白:这样的话。 我/卓司:我们在思考同样的事? 行人:谁知道呢?但我能断言,你的所作所为是错误的 旁白:即使如此,也要断定我是错的。 旁白:虽然很想听听他的理由,但若他是最后一人,也就没必要听了。 旁白:因为这是我在思考的事,而水上行人与我的判断完全相反—— 我/卓司:被诅咒的,生 我/卓司:被祝福的,生 我/卓司:亦或者是—— 我/卓司:被当做诅咒的,死 我/卓司:把这样的死,当做祝福接受 我/卓司:到这里为止,我和你的想法应该是一样的吧? ```