Datasets:
Update README.md
Browse files
README.md
CHANGED
@@ -115,7 +115,74 @@ configs:
|
|
115 |
data_files:
|
116 |
- split: train
|
117 |
path: simple/train-*
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
118 |
---
|
119 |
-
# Dataset Card for "japanese-stackexchange"
|
120 |
|
121 |
-
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
115 |
data_files:
|
116 |
- split: train
|
117 |
path: simple/train-*
|
118 |
+
license: cc-by-sa-4.0
|
119 |
+
task_categories:
|
120 |
+
- text-generation
|
121 |
+
- question-answering
|
122 |
+
language:
|
123 |
+
- en
|
124 |
+
- ja
|
125 |
+
tags:
|
126 |
+
- stackexchange
|
127 |
+
pretty_name: Japanese StackExchange
|
128 |
+
size_categories:
|
129 |
+
- 10K<n<100K
|
130 |
---
|
|
|
131 |
|
132 |
+
# japanese-stackexchange
|
133 |
+
|
134 |
+
英語による日本語に関する質問ができる [Japanese Stack Exchange](https://japanese.stackexchange.com/) の[データダンプ](https://archive.org/download/stackexchange) をもとにデータを加工し、質問文と回答文のペアになるように調整した QA データセット。
|
135 |
+
|
136 |
+
日本語翻訳された StackExchange ではないです。
|
137 |
+
|
138 |
+
## データ構造
|
139 |
+
|
140 |
+
投稿本文は `html2text` を使ってマークダウン化されています。その際、
|
141 |
+
|
142 |
+
- コードブロックは \`\`\` で囲まれるように変更されています。
|
143 |
+
- 画像 URL に base64 エンコードされた画像が含まれる場合、 `[unk]` に置き換えています。
|
144 |
+
|
145 |
+
### `default` サブセット
|
146 |
+
|
147 |
+
- `id`: 質問投稿の ID
|
148 |
+
- `question`: 質問投稿
|
149 |
+
- `answers`: 質問に対する回答投稿のリスト
|
150 |
+
- `accepted_answer_id`: 質問者に選ばれた回答のID。`null` の可能性がある
|
151 |
+
- `popular_answer_id`: もっともスコアが高かった回答のID。`null` の可能性がある
|
152 |
+
|
153 |
+
|
154 |
+
### `simple` サブセット
|
155 |
+
|
156 |
+
`default` サブセットから、 `question` と `answers` の辞書を展開しシンプルにしたもの。
|
157 |
+
|
158 |
+
- `id`: 質問投稿の ID
|
159 |
+
- `accepted_answer_id`: 質問者に選ばれた回答のID。`null` の可能性がある
|
160 |
+
- `popular_answer_id`: もっともスコアが高かった回答のID。`null` の可能性がある
|
161 |
+
- `title`: 質問のタイトル
|
162 |
+
- `question_body`: 質問本文
|
163 |
+
- `question_score`: 質問のスコア
|
164 |
+
- `tags`: 質問に関連付けられたタグ
|
165 |
+
- `accepted_answer_body`: 質問者に選ばれた回答の本文。`null` の可能性がある
|
166 |
+
- `accepted_answer_score`: 質問者に選ばれた回答のスコア。`null` の可能性がある
|
167 |
+
- `popular_answer_body`: もっともスコアが高かった回答の本文。`null` の可能性がある
|
168 |
+
- `popular_answer_score`: もっともスコアが高かった回答のスコア。`null` の可能性がある
|
169 |
+
|
170 |
+
## 使い方
|
171 |
+
|
172 |
+
datasets ライブラリを用いて簡単に利用できます。
|
173 |
+
|
174 |
+
```py
|
175 |
+
from datasets import load_dataset
|
176 |
+
dataset = load_dataset("p1atdev/japanese-stackexchange", config_name="simple" split="train")
|
177 |
+
print(dataset)
|
178 |
+
#Dataset({
|
179 |
+
# features: ['id', 'accepted_answer_id', 'popular_answer_id', 'title', 'question_body', 'question_score', 'accepted_answer_body', 'accepted_answer_score', 'popular_answer_body', 'popular_answer_score', 'tags'],
|
180 |
+
# num_rows: 28428
|
181 |
+
#})
|
182 |
+
```
|
183 |
+
|
184 |
+
|
185 |
+
## ライセンス
|
186 |
+
|
187 |
+
StackOverflow に基づき、[CC BY-SA 4.0](https://creativecommons.org/licenses/by-sa/4.0/deed.ja)
|
188 |
+
|