from opencc import OpenCC cc = OpenCC('t2s') # 't2s'表示繁体转简体 from h_corpus import Fileset import unicodedata import json import re def fullwidth_to_halfwidth(input_str): return ''.join([unicodedata.normalize('NFKC', char) for char in input_str]) def clearT(s): s = cc.convert(fullwidth_to_halfwidth(s)) return s.lstrip('n').strip().strip(r'\n').replace('\n', '\\n') _n = { "女学生A": "女学生A", "女学生B": "女学生B", "女学生C": "女学生C", "幸助": "幸助", "女学生ABC": "女学生A&B&C", "女学生们": "女学生们", "女学生D": "女学生D", "女学生EFG": "女学生E&F&G", "保安": "保安", "???": "?", "四月一日老师": "四月一日老师", "龙胆": "龙胆", "忍": "忍", "千鹤": "千鹤", "华恋": "华恋", "茉樱": "茉樱", "女学生A": "女学生A", "女学生B": "女学生B", "女学生C": "女学生C", "音羽": "音羽", "神楽": "神乐", "昴": "昴", "女学生E": "女学生E", "引擎": "引擎", "女学生F": "女学生F", "女学生G": "女学生G", "女学生H": "女学生H", "英语老师": "英语老师", "性教育老师": "性教育老师", "学生代表": "学生代表", "风": "风", "女学生E・F・G": "女学生E&F&G", "女学生I": "女学生I", "振动棒": "振动棒", "学生们": "学生们", "女学生": "女学生", "老师": "老师", "搭讪男": "搭讪男", "周围的人": "周围的人", "女孩": "女孩", "宿管员": "宿管员", "管理员": "管理员", "担任": "班委", "生物老师": "生物老师", "生徒一同": "学生们", "人": "人", "人A": "人A", "人偶": "人偶", "闹钟": "闹钟", "千鹤\"可": "千鹤", "服务生": "服务生", "小孩子": "小孩子", "男人们": "男人们", "男A": "男A", "男B": "男B", "小狗": "小狗", "子犬": "小狗", "主婦": "主妇", "人们": "人们", "男声": "男声", "女生": "女生", "女声": "女声", "做爱的情侣": "做爱的情侣", "做爱的女性": "做爱的女性", "人B": "人B", "做爱的男性": "做爱的男性", "大家": "大家", "人A・B": "人A&B", "人C": "人C", "人D": "人D", "街上的人们": "街上的人们", "男C": "男C", "企鹅": "企鹅", "解说": "解说", "CM": "CM", "男D": "男D", "女C": "女C", "男G": "男G", "女D": "女D", "男H": "男H", "女E": "女E", "一起": "一起", "婴儿": "婴儿", "教师": "教师", "幸助的班级的老师": "幸助的班级的老师", "幸助同班同学A": "幸助同班同学A", "幸助同班同学B": "幸助同班同学B", "生徒達": "学生们", "茉樱班级的老师": "茉樱班级的老师", "同学们": "同学们", "幸助班级的老师": "幸助班级的老师", "姐": "姐", "弟": "弟", "店员": "店员", "茉桜": "茉樱", "路人": "路人", "幸助・天使": "幸助&天使", "幸助・恶魔": "幸助&恶魔", "低年级学生1": "低年级学生1", "低年级学生2": "低年级学生2", "高年级生1": "高年级生1", "高年级生2": "高年级生2", "高年级生3": "高年级生3", "高年级生達": "高年级生们", "黑衣男": "黑衣男", "店員": "店员", "广播": "广播", "校长": "校长", "武藏": "武藏", "女学生1": "女学生1", "女学生2": "女学生2", "神乐": "神乐", "孩子": "孩子", "子供": "孩子", "武蔵": "武藏", "": "旁白", "竜胆": "龙胆", "同学A": "同学A", "同学B": "同学B", "同学C": "同学C", "年级主任": "年级主任", "学校主任": "学校主任", "走廊的女生A": "走廊的女生A", "附近的女生B": "附近的女生B", "猫": "猫", "医生": "医生", "華恋": "华恋", "班级同学": "班级同学", "玛欧酱": "玛欧酱" } a = Fileset(r'E:\tmp\MOMOIROSEHIKI', ext='.ks') b = r'D:\datasets\b-corpus\视觉小说\format\MOMOIROSEHIKI\MOMOIROSEHIKI.txt' regn = re.compile(r'name ?= ?(.*)') sc = [] for i in range(len(a)): with open(a[i], encoding='utf-16le') as f: in_d = False d = [] for line in f: line = line.strip() if not line: continue if line.startswith(';') or line.startswith('*'): continue if '[' not in line and in_d: d.append(line) continue cache = '' in_t = False for one in line: if one == '[': in_t = True if in_d: d.append(cache) cache = '' continue if one == ']': in_t = False cache = cache.strip() if cache.startswith('CH_NAME'): in_d = True if cache.startswith('CH_NAME_OFF'): n = '旁白' else: # print(line) # print(cache) tmp = regn.findall(cache)[0] # print(tmp) n = tmp.strip('"') n = _n[n] if cache.startswith('SYSTEM_MENU_ON'): in_d = False d = clearT(''.join(d)) if d: sc.append(n + ':' + d) d = [] cache = '' continue cache += one with open(b, 'w', encoding='utf-8') as f: f.write('\n'.join(sc)) tmp = json.dumps(_n, ensure_ascii=False, indent=2)