metadata
license: cc-by-nc-sa-4.0
task_categories:
- text-generation
language:
- zh
纯手工用眼睛和手细细切做臊子的中文长文本语料
- 清洗要求：
全角转半角|繁体转简体 - 内部去重：
s/(.)\1{3,}/$1$1$1/g|s/(.{2,}?)\1{2,}/$1/g|s/(((^.*$)[\r\n]*){1,10}?)\1{1,}/$1/g - 杂项：
s/^([\x00-\x3e\x40-\xff]{1,4})[\x00-\xff]*：/$1：/g - 错字：
s/巴巴/爸爸/g|s/阿阿+/啊啊/g|s/很抄/很吵/g|s/能苟/能够/g - 错字：
s/拉\b/啦/g|s/巴\b/吧/g|s/阿\b/啊/g - 一个完整对话为一个文件
- 一行的格式为
{NAME}：{DIALOGUE}('：'为中文冒号) - 旁白的 {NAME} 为
旁白 - 未知人物的 {NAME} 为 '?'
- 可以从旁白推断的主角的 {NAME} 为
我/名字，否则为名字 - 如万华镜等主角名字改变的，
名字变，我/不变 - 除
b-corpus\视觉小说\format外的语料的作用是增加多样性 - 完整保留涩涩内容，部分内容涉及错误世界观和道德伦理
- 注意：部分多视角的语料，随着旁白的改变，主角也可能会改变
from opencc import OpenCC
cc = OpenCC('t2s') # 't2s'表示繁体转简体
import unicodedata
def fullwidth_to_halfwidth(input_str):
return ''.join((unicodedata.normalize('NFKC', char) for char in input_str))
def clearT(s):
s = cc.convert(fullwidth_to_halfwidth(s))
return s.strip()
- 错误价值观举例
旁白：她抵达了终之空。
旁白：她已经超越了万物....
旁白：超越万物....
旁白：也就是,
旁白：抵达极致....
女信徒A：野崎跳下去了!
女信徒A：真棒。我们跟上吧!趁俗世的权利还没阻止我们抵达极致!!
女信徒A：救世主大人
女信徒A：我先走一步
我/卓司：嗯
女性信者B：我也走了
女信徒C：我也....各位,保重
男信徒A：我也要....跟这不完美的世界说再见了。各位,再见....
由香：在完美的世界里,我们也要在一起,
?：嗯——
由香：再见,救世主大人。非常感谢
我/卓司：嗯....
男信徒B：这样就能跟这个世界说再见了....我讨厌这个世界
男信徒B：以后就能在完美的世界里——
男信徒B：在完美的世界里,过上幸福的日子!!
男信徒B：没有家人
男信徒B：没有老师
男信徒B：没有考试
男信徒B：也没有学校
男信徒C：完美的世界,我来了!!
旁白：....信徒们一个个地抵达终之空....
我/卓司：真的会有祝福自己诞生的人吗?
我/卓司：正因为诅咒一切,在这个世界诞生,因为一切都是谬误,我们才——
行人：是啊,没错,是这样。如果诞生是惩罚的话,我们在诞生的瞬间就是丧家犬了....
我/卓司：那为什么——
行人：所以就要勒紧刚诞生的婴儿的脖子?
旁白：我有些惊讶。
旁白：“掐住新生婴儿的脖子,将其人生在10分钟结束,谁也不会有异议”
旁白：虽然这的确是我说的,但那是在方舟的演说上说的。我不认为行人会知道。
旁白：这样的话。
我/卓司：我们在思考同样的事?
行人：谁知道呢?但我能断言,你的所作所为是错误的
旁白：即使如此,也要断定我是错的。
旁白：虽然很想听听他的理由,但若他是最后一人,也就没必要听了。
旁白：因为这是我在思考的事,而水上行人与我的判断完全相反——
我/卓司：被诅咒的,生
我/卓司：被祝福的,生
我/卓司：亦或者是——
我/卓司：被当做诅咒的,死
我/卓司：把这样的死,当做祝福接受
我/卓司：到这里为止,我和你的想法应该是一样的吧?