Datasets:

Languages:
Chinese
Tags:
Not-For-All-Audiences
License:
Limour's picture
匿名代码 @ 小鳥遊クリ | SakuraLLM数据集
abeced2 verified
import sys
sys.path.append('..')
from common import clearT, get_all_files_in_directory
# https://huggingface.co/datasets/Limour/archvie/blob/main/v-corpus-zh/common.py
# =================
a = get_all_files_in_directory(r'E:\galgame\匿名代码\json', ext='.json')
b = r'E:\galgame\匿名代码\text'
# =================
sc = {}
_n = {
"ポロン" : "步论", # 高冈步论
"モモ" : "桃", # 爱咲桃
"習志野オペA" : "特种兵A", # 习志野基地位于千叶县,是日本陆上自卫队的重要训练基地之一。
"副官" : "副官",
"ブラボー1" : "Bravo1",
"習志野オペB" : "特种兵B",
"アルファ2" : "Alfa2",
"習志野オペC" : "特种兵C",
"グレアム" : "格雷亚姆", # 格雷亚姆·金格里
"オズ" : "小津", # 小津谷天弦
"クロス" : "十字", # 弓川十字
"ARカフェ店員" : "AR咖啡店员",
"ARカフェの客A" : "AR咖啡店客A",
"ARカフェの客B" : "AR咖啡店客B",
"ARカフェの客C" : "AR咖啡店客C",
"富岡" : "富冈",
"木戸" : "木户",
"五井" : "五井",
"ウインド" : "风都", # 牧风都
"ヨミ" : "Yomi",
"あああ" : "啊啊啊", # ZOOTTOMO 名字被设置成了『啊啊啊』
"ダブ" : "田渊", # 田渊亮一
"アンドゥ" : "安藤", # 安藤大
"ユアン" : "尤安", # 奥田尤安
"アスマ" : "游马", # 苏我游马
"複数" : "众人",
"国防軍兵士A" : "士兵A",
"国防軍兵士B" : "士兵B",
"ノンノ" : "乃乃", # 宝生乃乃花
"ジュノ" : "JUNO", # JUNO
"防衛大臣" : "国防部长",
"経産省_外務事務次官" : "经济产业省外务事务次官",
"経産省_外務事務次官(シミュレータ内)" : "经济产业省外务事务次官(模拟)",
"防衛省_情報化審議官" : "防卫省信息化审议官",
"文科省_研究開発局長" : "文部科学省研究开发局长",
"外務省_アジア大洋州局長" : "外务省亚洲大洋洲局长",
"外務省_総合外交対策局長" : "外务省综合外交对策局长",
"外務省_総合外交対策局長(シミュレータ内)" : "外务省综合外交对策局长(模拟)",
"外務省_アジア大洋州局長(シミュレータ内)" : "外务省亚洲大洋洲局长(模拟)",
"運転手" : "司机",
"カオル" : "鲛洲", # 鲛洲馨
"バンビ" : "子鹿", # 仓科子鹿
"リコ" : "梨心", # 泽衣梨心
"イロハ" : "彩羽", # 京极彩羽
"ポロンの父" : "步论的父亲",
"外務大臣補佐官" : "外务大臣辅佐官",
"国交省_外務事務次官" : "国土交通省外务事务次官",
"官房副長官" : "内阁官房副长官",
"サイポーくん" : "警察酱",
"作業員A" : "作业员A",
"作業員B" : "作业员B",
"緊急アナウンス" : "紧急通知",
"コントロールセンター" : "控制中心",
"桃華の大将" : "桃华的大将",
"アルファ1" : "Alfa1",
"アルファ5" : "Alfa5",
"GAIAシステム音声" : "GAIA系统音声",
"管制官" : "管制官",
"機長" : "机长",
"ライム" : "青柠",
"窓口担当" : "窗口负责人",
"副機長" : "副机长",
"航空局の男" : "航空局男",
"Jellyfish" : "Jellyfish",
"ヤシンタ" : "哈辛塔",
"若手エンジニア" : "新手工程师",
"司教" : "神父",
"枢機卿" : "红衣主教",
"ダビデ" : "大卫", # 大卫·叶瑟
"ロザリオ" : "罗萨莉欧", # 罗萨莉欧·罗萨利尼
"リディ" : "莉迪", # 莉迪·库玛尔
"ルシア" : "露希亚",
"フランシスコ" : "弗朗希斯科",
"マニュエル" : "曼努埃尔",
"ロレンツォ" : "洛伦兹",
"フェリーノ" : "菲里诺", # 菲里诺·阿尔克纳
"シニアエンジニア" : "高级工程师",
"システム音声" : "系统语音",
"ログインできない男" : "无法登录的男性",
"帰宅する女" : "回家的女性",
"電子ロックのシステム音声" : "电子锁的系统声音",
"自動運転車のシステム音声" : "自动驾驶车的系统声音",
"車内の男" : "车内的男性",
"IT専門家" : "IT专家",
"警察官A" : "警察A",
"警察官B" : "警察B",
"通報者のハッカー" : "举报者黑客",
"髭の男" : "胡子男",
"ニュースキャスターの男05_05A" : "男主播A",
"大島リポーター" : "大岛记者",
"謎のマークが付いた少女A" : "神秘标记少女A",
"謎のマークが付いた少女B" : "神秘标记少女B",
"リポーターの男05_05" : "男记者",
"奥野" : "奥野",
"助手席の男" : "男助手",
"ドライバーの男" : "男司机",
"ニュースキャスターの男05_05B" : "男主播B",
"ニュースキャスターの女05_05" : "女主播",
"バスを避ける女" : "躲公交女",
"バスを避けた男" : "躲公交男",
"女子高生" : "女高中生",
"男子大学生" : "男大学生",
"スーツの男" : "西装男",
"スーツの女A" : "西装女A",
"スーツの女B" : "西装女B",
"バイクの男" : "摩托男",
"スポーツカーの男" : "跑车男",
"キックボードの少女" : "滑板少女",
"ドローンシューズの少年" : "无人机鞋少年",
"野球帽の男" : "棒球帽男",
"金髪の男" : "金发男",
"ガタイのいい女" : "魁梧女",
"教師の女" : "女老师",
"教師の男" : "男老师",
"白衣の男" : "白衣男",
"エプロン姿の女" : "围裙女",
"ジャージの男" : "运动服男",
"建設作業員A" : "建筑工人A",
"建設作業員B" : "建筑工人B",
"建設作業員C" : "建筑工人C",
"鏑木" : "铃木",
"女の子06_11A" : "女性A",
"男の子06_11A" : "男性A",
"女の子06_11B" : "女性B",
"警察官06_15A" : "警察A",
"神父" : "神父",
"SP07_01A" : "特警A",
"ローニン" : "罗宁", # 罗宁·德西耶罗
"二村幹事長" : "二村干事长",
"ニュースキャスターの女07_03A" : "女主播A",
"外事課の警察官07_08A" : "外事科的警察A",
"神父服の若者" : "穿神父服年轻人",
"警察官07_09A" : "警察A",
"警察官07_24A" : "警察A",
"警視総監" : "警视总监",
"警視副総監" : "警视副总监",
"実行犯" : "实施犯",
"ケント" : "宪斗", # 古里久宪斗
"解説員08_03" : "解说员",
"男性リポーター08_03" : "男记者",
"抗議する女性08_03" : "抗议女性",
"タレント08_03" : "明星",
"経済評論家08_03" : "经济评论家",
"ジャーナリストの女08_03" : "女记者",
"コメンテーター08_05" : "评论员",
"AIキャラクター08_05A" : "AI角色A",
"AIキャラクター08_05B" : "AI角色B",
"動画配信者08_05A" : "动画配音A",
"チャーリー1" : "Charlie1",
"群長" : "组长",
"兵士" : "士兵",
"兵士08_11A" : "士兵A",
"兵士08_12A" : "士兵A",
"ミオリ" : "游马的妈妈",
"医師08_14" : "医生",
"ユキヒラ" : "游马的爸爸",
"4chan投稿者08_14A" : "4chan投稿者A",
"4chan投稿者08_14B" : "4chan投稿者B",
"4chan投稿者08_14C" : "4chan投稿者C",
"4chan投稿者08_14D" : "4chan投稿者D",
"4chan投稿者08_14E" : "4chan投稿者E",
"4chan投稿者08_14F" : "4chan投稿者F",
"4chan投稿者08_14G" : "4chan投稿者G",
"聖務室エージェント08_15" : "宗教事务办公室代理人",
"不審な侵入者08_15A" : "侵入者A",
"不審な侵入者08_15B" : "侵入者B",
"不審な侵入者08_15C" : "侵入者C",
"蜂谷" : "蜂谷",
"兵士08_19" : "士兵",
"信徒の子供08_19" : "信徒的孩子08_19",
"地下聖堂の信徒08_19A" : "地下教会信徒A",
"地下聖堂の信徒08_19B" : "地下教会信徒B",
"地下聖堂の信徒08_19C" : "地下教会信徒C",
"地下聖堂の信徒08_19D" : "地下教会信徒D",
"連合軍副司令" : "联合军副司令",
"教皇" : "教皇",
"アルファ3" : "Alfa3",
"リポーターの女性09_02A" : "女记者A",
"操縦士の男性09_02A" : "男飞行员A",
"ニュースキャスターの男性09_02A" : "男主播A",
"ニュースキャスターの女性09_04A" : "女主播A",
"NASA長官" : "NASA长官",
"記者09_05A" : "记者A",
"記者09_05B" : "记者B",
"記者09_05C" : "记者C",
"記者09_05D" : "记者D",
"アメリカ大統領" : "美国总统",
"連合軍司令" : "联合军司令",
"横田オペレーター09_08A" : "横田基地员工A",
"横田オペレーター09_08D" : "横田基地员工D",
"横田オペレーター09_08B" : "横田基地员工B",
"横田オペレーター09_08C" : "横田基地员工C",
"兵士09_13" : "士兵",
"紅莉栖" : "红莉栖", # 牧濑红莉栖
"男性リポーター11_06" : "男记者"
}
# =================
import re
custom_sort_key_re = re.compile('([0-9]+)')
def custom_sort_key(s):
s: str = s[0]
return [int(x) if x.isdigit() else x for x in custom_sort_key_re.split(s)]
# =================
import json
reg_q = re.compile(r'[?\s]+')
re_html = re.compile(r'(\[.+?])|(%.+?;)') # (<.+?>)
re_ct = re.compile(r'<.*?,.*?,(.*?)>')
# <.*?,.*?,(.*?)> -> \1
for path in a:
name = path[path.rindex('\\') + 1:]
name = '0'
if name not in sc:
sc[name] = []
print(name)
# =================
with open(path, 'r', encoding='utf-8') as json_file:
data = json.load(json_file)
# =================
data = [(k, v) for k, v in data['content'].items()]
data = sorted(data, key=custom_sort_key)
for k, o_a in data:
o_a = [(k, v) for k, v in o_a.items()]
o_a = sorted(o_a, key=custom_sort_key)
for k, o_b in o_a:
for o_c in o_b:
n = o_c['speaker']
if n:
if n in _n:
n = _n[n]
else:
tmp = clearT(n).replace('・', '&')
tmp = reg_q.sub('?', tmp)
_n[n] = tmp.split('//')[-1].replace(' ', '')
print(o_c, n)
else:
n = '旁白'
d = o_c['chs']
if not d:
continue
d = re_html.sub('', clearT(d))
d = re_ct.sub(lambda x: x[1], d)
if d:
sc[name].append(n + ':' + d)
# =================
for k, v in sc.items():
if v:
with open(b + f'\\{k}.txt', 'w', encoding='utf-8') as f:
f.write('\n'.join(v))
# =================
import json
tmp = json.dumps(_n, ensure_ascii=False, indent=4)