|
from opencc import OpenCC |
|
cc = OpenCC('t2s') |
|
from h_corpus import Fileset |
|
import unicodedata |
|
import json |
|
import re |
|
def fullwidth_to_halfwidth(input_str): |
|
return ''.join([unicodedata.normalize('NFKC', char) for char in input_str]) |
|
|
|
def clearT(s): |
|
s = cc.convert(fullwidth_to_halfwidth(s)) |
|
return s.lstrip('n').strip().strip(r'\n').replace('\n', '\\n') |
|
|
|
_n = { |
|
"女学生A": "女学生A", |
|
"女学生B": "女学生B", |
|
"女学生C": "女学生C", |
|
"幸助": "幸助", |
|
"女学生ABC": "女学生A&B&C", |
|
"女学生们": "女学生们", |
|
"女学生Ｄ": "女学生D", |
|
"女学生EFG": "女学生E&F&G", |
|
"保安": "保安", |
|
"？？？": "?", |
|
"四月一日老师": "四月一日老师", |
|
"龙胆": "龙胆", |
|
"忍": "忍", |
|
"千鹤": "千鹤", |
|
"华恋": "华恋", |
|
"茉樱": "茉樱", |
|
"女学生Ａ": "女学生A", |
|
"女学生Ｂ": "女学生B", |
|
"女学生Ｃ": "女学生C", |
|
"音羽": "音羽", |
|
"神楽": "神乐", |
|
"昴": "昴", |
|
"女学生Ｅ": "女学生E", |
|
"引擎": "引擎", |
|
"女学生Ｆ": "女学生F", |
|
"女学生Ｇ": "女学生G", |
|
"女学生Ｈ": "女学生H", |
|
"英语老师": "英语老师", |
|
"性教育老师": "性教育老师", |
|
"学生代表": "学生代表", |
|
"风": "风", |
|
"女学生Ｅ・Ｆ・Ｇ": "女学生E&F&G", |
|
"女学生Ｉ": "女学生I", |
|
"振动棒": "振动棒", |
|
"学生们": "学生们", |
|
"女学生": "女学生", |
|
"老师": "老师", |
|
"搭讪男": "搭讪男", |
|
"周围的人": "周围的人", |
|
"女孩": "女孩", |
|
"宿管员": "宿管员", |
|
"管理员": "管理员", |
|
"担任": "班委", |
|
"生物老师": "生物老师", |
|
"生徒一同": "学生们", |
|
"人": "人", |
|
"人Ａ": "人A", |
|
"人偶": "人偶", |
|
"闹钟": "闹钟", |
|
"千鹤\"可": "千鹤", |
|
"服务生": "服务生", |
|
"小孩子": "小孩子", |
|
"男人们": "男人们", |
|
"男Ａ": "男A", |
|
"男Ｂ": "男B", |
|
"小狗": "小狗", |
|
"子犬": "小狗", |
|
"主婦": "主妇", |
|
"人们": "人们", |
|
"男声": "男声", |
|
"女生": "女生", |
|
"女声": "女声", |
|
"做爱的情侣": "做爱的情侣", |
|
"做爱的女性": "做爱的女性", |
|
"人Ｂ": "人B", |
|
"做爱的男性": "做爱的男性", |
|
"大家": "大家", |
|
"人Ａ・Ｂ": "人A&B", |
|
"人Ｃ": "人C", |
|
"人Ｄ": "人D", |
|
"街上的人们": "街上的人们", |
|
"男Ｃ": "男C", |
|
"企鹅": "企鹅", |
|
"解说": "解说", |
|
"ＣＭ": "CM", |
|
"男Ｄ": "男D", |
|
"女Ｃ": "女C", |
|
"男Ｇ": "男G", |
|
"女Ｄ": "女D", |
|
"男Ｈ": "男H", |
|
"女Ｅ": "女E", |
|
"一起": "一起", |
|
"婴儿": "婴儿", |
|
"教师": "教师", |
|
"幸助的班级的老师": "幸助的班级的老师", |
|
"幸助同班同学Ａ": "幸助同班同学A", |
|
"幸助同班同学Ｂ": "幸助同班同学B", |
|
"生徒達": "学生们", |
|
"茉樱班级的老师": "茉樱班级的老师", |
|
"同学们": "同学们", |
|
"幸助班级的老师": "幸助班级的老师", |
|
"姐": "姐", |
|
"弟": "弟", |
|
"店员": "店员", |
|
"茉桜": "茉樱", |
|
"路人": "路人", |
|
"幸助・天使": "幸助&天使", |
|
"幸助・恶魔": "幸助&恶魔", |
|
"低年级学生１": "低年级学生1", |
|
"低年级学生２": "低年级学生2", |
|
"高年级生１": "高年级生1", |
|
"高年级生２": "高年级生2", |
|
"高年级生３": "高年级生3", |
|
"高年级生達": "高年级生们", |
|
"黑衣男": "黑衣男", |
|
"店員": "店员", |
|
"广播": "广播", |
|
"校长": "校长", |
|
"武藏": "武藏", |
|
"女学生１": "女学生1", |
|
"女学生２": "女学生2", |
|
"神乐": "神乐", |
|
"孩子": "孩子", |
|
"子供": "孩子", |
|
"武蔵": "武藏", |
|
"": "旁白", |
|
"竜胆": "龙胆", |
|
"同学Ａ": "同学A", |
|
"同学Ｂ": "同学B", |
|
"同学Ｃ": "同学C", |
|
"年级主任": "年级主任", |
|
"学校主任": "学校主任", |
|
"走廊的女生Ａ": "走廊的女生A", |
|
"附近的女生Ｂ": "附近的女生B", |
|
"猫": "猫", |
|
"医生": "医生", |
|
"華恋": "华恋", |
|
"班级同学": "班级同学", |
|
"玛欧酱": "玛欧酱" |
|
} |
|
a = Fileset(r'E:\tmp\MOMOIROSEHIKI', ext='.ks') |
|
b = r'D:\datasets\b-corpus\视觉小说\format\MOMOIROSEHIKI\MOMOIROSEHIKI.txt' |
|
regn = re.compile(r'name ?= ?(.*)') |
|
sc = [] |
|
for i in range(len(a)): |
|
with open(a[i], encoding='utf-16le') as f: |
|
in_d = False |
|
d = [] |
|
for line in f: |
|
line = line.strip() |
|
if not line: |
|
continue |
|
if line.startswith(';') or line.startswith('*'): |
|
continue |
|
if '[' not in line and in_d: |
|
d.append(line) |
|
continue |
|
cache = '' |
|
in_t = False |
|
for one in line: |
|
if one == '[': |
|
in_t = True |
|
if in_d: |
|
d.append(cache) |
|
cache = '' |
|
continue |
|
if one == ']': |
|
in_t = False |
|
cache = cache.strip() |
|
if cache.startswith('CH_NAME'): |
|
in_d = True |
|
if cache.startswith('CH_NAME_OFF'): |
|
n = '旁白' |
|
else: |
|
|
|
|
|
tmp = regn.findall(cache)[0] |
|
|
|
n = tmp.strip('"') |
|
n = _n[n] |
|
if cache.startswith('SYSTEM_MENU_ON'): |
|
in_d = False |
|
d = clearT(''.join(d)) |
|
if d: |
|
sc.append(n + '：' + d) |
|
d = [] |
|
cache = '' |
|
continue |
|
cache += one |
|
|
|
with open(b, 'w', encoding='utf-8') as f: |
|
f.write('\n'.join(sc)) |
|
tmp = json.dumps(_n, ensure_ascii=False, indent=2) |
