|
--- |
|
license: mit |
|
task_categories: |
|
- translation |
|
language: |
|
- ko |
|
- zh |
|
--- |
|
### AI Hub Ko-Zh Translation Dataset (Integrated) |
|
|
|
AI Hub의 한-중 번역 관련 데이터셋 10개를 병합한 자료입니다. 병합 시 총 데이터 개수는 5,934,596개이며, 이중 10,000개의 validation set와 2,000개의 test set가 분리되어 모든 데이터 사이즈(large-5.9m, base-1m, small-100k)에서 동일하게 사용됩니다. |
|
|
|
- large-5.9m (train): 병합 데이터 100% 사용; 총 5,922,596개 |
|
|
|
- base-1m (train): 병합 데이터 중 1M개 사용; 총 1,000,000개 |
|
|
|
- small-100k (train): 병합 데이터 중 100K개 사용; 총 100,000개 |
|
|
|
### Subsets |
|
| Name | Total Size | Chinese Size (Utilized Only) | URL | Datasetkey (AIHub) | |
|
|---|---|---|---|---| |
|
| 한국어-중국어 번역 말뭉치(기술과학) | 1170000 | 1170000 | [URL](https://www.aihub.or.kr/aihubdata/data/view.do?currMenu=&topMenu=&aihubDataSe=data&dataSetSn=128) | 128 | |
|
| 한국어-중국어 번역 말뭉치(사회과학) | 1170000 | 1170000 | [URL](https://www.aihub.or.kr/aihubdata/data/view.do?currMenu=&topMenu=&aihubDataSe=data&dataSetSn=129) | 129 | |
|
| 일상생활 및 구어체 한-중, 한-일 번역 병렬 말뭉치 데이터 | 2700000 | 1349470 | [URL](https://www.aihub.or.kr/aihubdata/data/view.do?currMenu=&topMenu=&aihubDataSe=data&dataSetSn=546) | 546 | |
|
| 전문분야 영-한, 중-한 번역 말뭉치(식품) | 1350000 | 1326837 | [URL](https://www.aihub.or.kr/aihubdata/data/view.do?currMenu=&topMenu=&aihubDataSe=data&dataSetSn=71262) | 71262 | |
|
| 방송 콘텐츠 한-중, 한-일 번역 병렬 말뭉치 데이터 | 1487088 | 367921 | [URL](https://www.aihub.or.kr/aihubdata/data/view.do?currMenu=&topMenu=&aihubDataSe=data&dataSetSn=71263) | 71263 | |
|
| 발화유형(문어, 구어, 채팅) 별 기계번역 병렬 말뭉치 | 82002 | 26989 | [URL](https://www.aihub.or.kr/aihubdata/data/view.do?currMenu=&topMenu=&aihubDataSe=data&dataSetSn=71411) | 71411 | |
|
| 한국어-다국어 번역 말뭉치(기술과학) | 270459 | 146317 | [URL](https://www.aihub.or.kr/aihubdata/data/view.do?currMenu=&topMenu=&aihubDataSe=data&dataSetSn=71493) | 71493 | |
|
| 한국어-다국어 번역 말뭉치(기초과학) | 270317 | 84419 | [URL](https://www.aihub.or.kr/aihubdata/data/view.do?currMenu=&topMenu=&aihubDataSe=data&dataSetSn=71496) | 71496 | |
|
| 한국어-다국어 번역 말뭉치(인문학) | 271721 | 80375 | [URL](https://www.aihub.or.kr/aihubdata/data/view.do?currMenu=&topMenu=&aihubDataSe=data&dataSetSn=71498) | 71498 | |
|
| 방송콘텐츠 한국어-아시아어 번역 말뭉치 | 820387 | 112978 | [URL](https://www.aihub.or.kr/aihubdata/data/view.do?currMenu=&topMenu=&aihubDataSe=data&dataSetSn=71591) | 71591 | |
|
| AI 허브 데이터 활용을 위한 기계 번역말뭉치 | 2653948 | 212268 | [URL](https://www.aihub.or.kr/aihubdata/data/view.do?currMenu=&topMenu=&aihubDataSe=data&dataSetSn=71593) | 71593 | |
|
|
