template-dataset-pt / README.md
TwinDoc's picture
Update README.md
de4e8c3 verified
---
dataset_info:
features:
- name: text
dtype: string
splits:
- name: train
num_bytes: 38168952
num_examples: 10000
- name: validation
num_bytes: 373317
num_examples: 100
- name: test
num_bytes: 3791381
num_examples: 1000
download_size: 17083588
dataset_size: 42333650
configs:
- config_name: default
data_files:
- split: train
path: data/train-*
- split: validation
path: data/validation-*
- split: test
path: data/test-*
---
| **Abbreviations** | **Training** | **Name** | **Columns** |
|-------------------|--------------------------------|--------------------------------------|--------------------------|
| **PT** | **Pretraining** | **TwinDoc/template-dataset-pt** | **text** |
| SFT | Supervised fine-tuning | TwinDoc/template-dataset-sft-alpaca | instruction input output |
| SFT | Supervised fine-tuning | TwinDoc/template-dataset-sft-chatgpt | messages |
| DPO | Direct Preference Optimization | TwinDoc/template-dataset-dpo | prompt chosen rejected |
```
DatasetDict({
train: Dataset({
features: ['text'],
num_rows: 10000
})
validation: Dataset({
features: ['text'],
num_rows: 100
})
test: Dataset({
features: ['text'],
num_rows: 1000
})
})
```
```
{
"text": "์ด๋ฏธ ์ง€๊ธˆ ์‚ด๊ณ  ์žˆ๋Š” ๊ทธ ํ—ˆ๋ฆ„ํ•œ ์ž„๋Œ€ ์•„ํŒŒํŠธ ์›”์„ธ๋„ ๋ฒ„๊ฑฐ์›Œํ•˜๋˜ ์—„๋งˆ์˜€๋‹ค. ํ•œ์ฐธ์„ ๊ณจ๋ชฐํ–ˆ์œผ๋‚˜ ๋พฐ์กฑํ•œ ์ˆ˜๊ฐ€ ๋– ์˜ค๋ฅด์ง€ ์•Š์•˜๋‹ค.์ด๋ฏธ ์ง€๊ธˆ ์‚ด๊ณ  ์žˆ๋Š” ๊ทธ ํ—ˆ๋ฆ„ํ•œ ์ž„๋Œ€ ์•„ํŒŒํŠธ ์›”์„ธ๋„ ๋ฒ„๊ฑฐ์›Œํ•˜๋˜ ์—„๋งˆ์˜€๋‹ค. ํ•œ์ฐธ์„ ๊ณจ๋ชฐํ–ˆ์œผ๋‚˜ ๋พฐ์กฑํ•œ ์ˆ˜๊ฐ€ ๋– ์˜ค๋ฅด์ง€ ์•Š์•˜๋‹ค.์ง์žฅ์„ ๋‹ค๋‹ˆ์ง€ ์•Š์œผ๋‹ˆ ๋‚ด ์ด๋ฆ„์œผ๋กœ ๋Œ€์ถœ์„ ๋ฐ›์„ ์ˆ˜๋„ ์—†์—ˆ๋‹ค.์ง์žฅ์„ ๋‹ค๋‹ˆ์ง€ ์•Š์œผ๋‹ˆ ๋‚ด ์ด๋ฆ„์œผ๋กœ ๋Œ€์ถœ์„ ๋ฐ›์„ ์ˆ˜๋„ ์—†์—ˆ๋‹ค.๋ˆ๋„ ๋งˆ์Œ๋„ ๋นˆํ„ธํ„ฐ๋ฆฌ์ธ ๋‚ด๊ฐ€ ์ง€๊ธˆ ๊ฐˆ ์ˆ˜ ์žˆ๋Š” ๊ณณ์€ ์žก๋™์‚ฌ๋‹ˆ๋กœ ๊ฐ€๋“ ์ฐฌ ๊ทธ ์ชฝ๋ฐฉ๋ฟ์ด์—ˆ๋‹ค.๋ˆ๋„ ๋งˆ์Œ๋„ ๋นˆํ„ธํ„ฐ๋ฆฌ์ธ ๋‚ด๊ฐ€ ์ง€๊ธˆ ๊ฐˆ ์ˆ˜ ์žˆ๋Š” ๊ณณ์€ ์žก๋™์‚ฌ๋‹ˆ๋กœ ๊ฐ€๋“ ์ฐฌ ๊ทธ ์ชฝ๋ฐฉ๋ฟ์ด์—ˆ๋‹ค.๊ฒฐ๊ตญ ๋งˆ์Œ์— ๋ถˆ์•ˆ๊ฐ์„ ๊ฐ€๋“ ํ’ˆ์€ ์ƒํƒœ์—์„œ ๋‚˜๋Š” ๊ฐ€์กฑ๊ณผ ๋‹ค์‹œ ๋งค์ผ์˜ ์‚ถ์„ ๊ณต์œ ํ•˜๊ธฐ๋กœ ํ–ˆ๋‹ค.๊ฒฐ๊ตญ ๋งˆ์Œ์— ๋ถˆ์•ˆ๊ฐ์„ ๊ฐ€๋“ ํ’ˆ์€ ์ƒํƒœ์—์„œ ๋‚˜๋Š” ๊ฐ€์กฑ๊ณผ ๋‹ค์‹œ ๋งค์ผ์˜ ์‚ถ์„ ๊ณต์œ ํ•˜๊ธฐ๋กœ ํ–ˆ๋‹ค.1๋…„ ์ „ ์ธ์ฒœ ์ง‘์„ ๋– ๋‚˜๋˜ ๊ทธ๋‚ ์ฒ˜๋Ÿผ, ๋‚˜๋Š” ์…ฐ์–ดํ•˜์šฐ์Šค์˜ ์•„์ด๋“ค์—๊ฒŒ ์ธ์‚ฌ ํ•œ๋งˆ๋”” ๊ฑด๋„ค์ง€ ์•Š๊ณ  ์„œ์šธ์„ ๋– ๋‚ฌ๋‹ค.1๋…„ ์ „ ์ธ์ฒœ ์ง‘์„ ๋– ๋‚˜๋˜ ๊ทธ๋‚ ์ฒ˜๋Ÿผ, ๋‚˜๋Š” ์…ฐ์–ดํ•˜์šฐ์Šค์˜ ์•„์ด๋“ค์—๊ฒŒ ์ธ์‚ฌ ํ•œ๋งˆ๋”” ๊ฑด๋„ค์ง€ ์•Š๊ณ  ์„œ์šธ์„ ๋– ๋‚ฌ๋‹ค.ํ‚ค์Šค ๋Œ€๋ž€์˜ ํ›„์œ ์ฆ์€ ์‰ฝ์‚ฌ๋ฆฌ ๊ฐ€์‹œ์ง€ ์•Š์•˜๋‹ค.ํ‚ค์Šค ๋Œ€๋ž€์˜ ํ›„์œ ์ฆ์€ ์‰ฝ์‚ฌ๋ฆฌ ๊ฐ€์‹œ์ง€ ์•Š์•˜๋‹ค.์•ˆ์ ˆ๋ถ€์ ˆ๋ชปํ•˜๋˜ ๋ฏธ๋ž€์€ ๊ฒฐ๊ตญ ๋ฐฉ์—์„œ ๋‚˜์™”๋‹ค.์•ˆ์ ˆ๋ถ€์ ˆ๋ชปํ•˜๋˜ ๋ฏธ๋ž€์€ ๊ฒฐ๊ตญ ๋ฐฉ์—์„œ ๋‚˜์™”๋‹ค.์ฃผ๋ฐฉ์—์„œ๋Š” ๊ตฌ์ˆ˜ํ•œ ๋œ์žฅ์ฐŒ๊ฐœ๊ฐ€ ๋ณด๊ธ€๋ณด๊ธ€ ๋“๊ณ  ์žˆ์—ˆ๋‹ค.์ฃผ๋ฐฉ์—์„œ๋Š” ๊ตฌ์ˆ˜ํ•œ ๋œ์žฅ์ฐŒ๊ฐœ๊ฐ€ ๋ณด๊ธ€๋ณด๊ธ€ ๋“๊ณ  ์žˆ์—ˆ๋‹ค.์œ ํ•œ์€ ์˜ฅํƒ‘๋ฐฉ์— ์„ธ ๋“ค์–ด์˜ฌ ์‚ฌ๋žŒ์ด ์ƒ๊ฒผ๋‹ค๋ฉฐ ํ•จ๊ป˜ ๋ฉด์ ‘์„ ๋ณด์ž๊ณ  ๋งํ–ˆ๋‹ค.์œ ํ•œ์€ ์˜ฅํƒ‘๋ฐฉ์— ์„ธ ๋“ค์–ด์˜ฌ ์‚ฌ๋žŒ์ด ์ƒ๊ฒผ๋‹ค๋ฉฐ ํ•จ๊ป˜ ๋ฉด์ ‘์„ ๋ณด์ž๊ณ  ๋งํ–ˆ๋‹ค.๊ทธ๋Ÿฌ๋‚˜ ์ง€๊ธˆ ์ด ์ˆœ๊ฐ„, ๋ฏธ๋ž€์€ ํ•œ์—†์ด ํ•˜์ฐฎ๊ณ  ๋ณด์ž˜๊ฒƒ์—†๋Š” ์กด์žฌ์ผ ๋”ฐ๋ฆ„์ด์—ˆ๋‹ค.๊ทธ๋Ÿฌ๋‚˜ ์ง€๊ธˆ ์ด ์ˆœ๊ฐ„, ๋ฏธ๋ž€์€ ํ•œ์—†์ด ํ•˜์ฐฎ๊ณ  ๋ณด์ž˜๊ฒƒ์—†๋Š” ์กด์žฌ์ผ ๋”ฐ๋ฆ„์ด์—ˆ๋‹ค.๊ทธ๋Ÿฐ๋ฐ ๋ˆ„๊ตฐ๊ฐ€๋ฅผ ์–ด์ฐŒ ํ‰๊ฐ€ํ•  ์ˆ˜ ์žˆ์„๊นŒ?๊ทธ๋Ÿฐ๋ฐ ๋ˆ„๊ตฐ๊ฐ€๋ฅผ ์–ด์ฐŒ ํ‰๊ฐ€ํ•  ์ˆ˜ ์žˆ์„๊นŒ?๋ฐฅ ๋จน์„ ์ž๊ฒฉ์กฐ์ฐจ ์—†๋‹ค๊ณ  ๋ฏธ๋ž€์€ ์ƒ๊ฐํ–ˆ๋‹ค.๋ฐฅ ๋จน์„ ์ž๊ฒฉ์กฐ์ฐจ ์—†๋‹ค๊ณ  ๋ฏธ๋ž€์€ ์ƒ๊ฐํ–ˆ๋‹ค.\"๋งŽ์ด ์ปธ๊ตฌ๋‚˜โ€ฆโ€ฆ. ์—ญ์‹œ ๋‚ด๊ฐ€ ๋„ˆ๋ฅผ ์ž˜๋ชป ๋ณธ ๊ฒƒ์€ ์•„๋‹ˆ์—ˆ๋‹ค. ํ•˜์ง€๋งŒ, ๋‚˜๋Š” ๋„ค๊ฐ€ ๋‚˜์˜ ์•ˆ๋ฐฐ ๋ชจ๋‘๋ฅผ ํ†ต๊ณผํ•œ ๋’ค์— ๋งŒ๋‚˜๋ณด๊ธฐ๋ฅผ ์›ํ–ˆ์—ˆ๋‹ค. ๊ทธ๋Ÿฐ๋ฐ ๋„ˆ๋Š” ํ•ญ์ƒ ๋‚˜์˜ ์•ˆ๋ฐฐ๋ฅผ ๊ฑฐ๋ถ€ํ•˜๋Š”๊ตฌ๋‚˜โ€ฆโ€ฆ.\"\"๋งŽ์ด ์ปธ๊ตฌ๋‚˜. ์—ญ์‹œ ๋‚ด๊ฐ€ ๋„ˆ๋ฅผ ์ž˜๋ชป ๋ณธ ๊ฒƒ์€ ์•„๋‹ˆ์—ˆ๋‹ค. ํ•˜์ง€๋งŒ, ๋‚˜๋Š” ๋„ค๊ฐ€ ๋‚˜์˜ ์•ˆ๋ฐฐ ๋ชจ๋‘๋ฅผ ํ†ต๊ณผํ•œ ๋’ค์— ๋งŒ๋‚˜๋ณด๊ธฐ๋ฅผ ์›ํ–ˆ์—ˆ๋‹ค. ๊ทธ๋Ÿฐ๋ฐ ๋„ˆ๋Š” ํ•ญ์ƒ ๋‚˜์˜ ์•ˆ๋ฐฐ๋ฅผ ๊ฑฐ๋ถ€ํ•˜๋Š”๊ตฌ๋‚˜.\"\"์ด๋Ÿฐ ๋นŒ์–ด๋จน์„ ๋งค๋ฅผ ๋ดค๋‚˜!\"\"์ด๋Ÿฐ ๋นŒ์–ด๋จน์„ ๋งค๋ฅผ ๋ดค๋‚˜!\"์šฉํ˜ธ์˜ ์ฒญ๊ฐ์€ ์–ด๋–ค ๋ˆ„๊ตฌ๋ณด๋‹ค ์ข‹์•˜๋‹ค.์šฉํ˜ธ์˜ ์ฒญ๊ฐ์€ ์–ด๋–ค ๋ˆ„๊ตฌ๋ณด๋‹ค ์ข‹์•˜๋‹ค.์ฑ™!์ฑ™!ํ™•์–ธ์€ ๋‹น์‹ ์„ ์‚ฌ๋ž‘์˜ ๊ธธ๋กœ ๊ตณ๊ฒŒ ์ด๋Œ ์ˆ˜ ์žˆ๋Š” ์‰ฝ๊ณ  ์˜จํ™”ํ•œ ๋ฐฉ๋ฒ•์„ ์ œ๊ณตํ•ฉ๋‹ˆ๋‹ค.ํ™•์–ธ์€ ๋‹น์‹ ์„ ์‚ฌ๋ž‘์˜ ๊ธธ๋กœ ๊ตณ๊ฒŒ ์ด๋Œ ์ˆ˜ ์žˆ๋Š” ์‰ฝ๊ณ  ์˜จํ™”ํ•œ ๋ฐฉ๋ฒ•์„ ์ œ๊ณตํ•ฉ๋‹ˆ๋‹ค.๊ทธ๊ฒƒ์€ ๋‹น์‹ ์˜ ์ž์กด๊ฐ์„ ๋†’์ด๊ณ  ์ง„์ •์œผ๋กœ ๋‘๋ ค์›€ ์—†๋Š” ์ž๊ธฐ ์‚ฌ๋ž‘์„ ๋ฐœ์ „์‹œํ‚ค๋Š” ๋ฐ ๋„์›€์„ ์ค„ ๊ฒƒ์ž…๋‹ˆ๋‹ค.๊ทธ๊ฒƒ์€ ๋‹น์‹ ์˜ ์ž์กด๊ฐ์„ ๋†’์ด๊ณ  ์ง„์ •์œผ๋กœ ๋‘๋ ค์›€ ์—†๋Š” ์ž๊ธฐ ์‚ฌ๋ž‘์„ ๋ฐœ์ „์‹œํ‚ค๋Š” ๋ฐ ๋„์›€์„ ์ค„ ๊ฒƒ์ž…๋‹ˆ๋‹ค.ํ™•์–ธ์„ ์–ด๋–ป๊ฒŒ ์‚ฌ์šฉํ•˜๋Š”์ง€๋Š” ๋‹น์‹ ์—๊ฒŒ ๋‹ฌ๋ ค ์žˆ์Šต๋‹ˆ๋‹ค.ํ™•์–ธ์„ ์–ด๋–ป๊ฒŒ ์‚ฌ์šฉํ•˜๋Š”์ง€๋Š” ๋‹น์‹ ์—๊ฒŒ ๋‹ฌ๋ ค ์žˆ์Šต๋‹ˆ๋‹ค.ํฐ์†Œ๋ฆฌ๋กœ ์ฝ๋Š” ๊ฒƒ์„ ์ข‹์•„ํ•˜๋Š” ์‚ฌ๋žŒ๋„ ์žˆ๊ณ , ๋จธ๋ฆฟ์†์œผ๋กœ ๋งํ•˜๋Š” ๊ฒƒ์„ ์ข‹์•„ํ•˜๋Š” ์ด๋“ค๋„ ์žˆ์Šต๋‹ˆ๋‹ค.ํฐ์†Œ๋ฆฌ๋กœ ์ฝ๋Š” ๊ฒƒ์„ ์ข‹์•„ํ•˜๋Š” ์‚ฌ๋žŒ๋„ ์žˆ๊ณ , ๋จธ๋ฆฟ์†์œผ๋กœ ๋งํ•˜๋Š” ๊ฒƒ์„ ์ข‹์•„ํ•˜๋Š” ์ด๋“ค๋„ ์žˆ์Šต๋‹ˆ๋‹ค."
}
```