p1atdev commited on
Commit
9a73496
1 Parent(s): 611161e

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +69 -2
README.md CHANGED
@@ -115,7 +115,74 @@ configs:
115
  data_files:
116
  - split: train
117
  path: simple/train-*
 
 
 
 
 
 
 
 
 
 
 
 
118
  ---
119
- # Dataset Card for "japanese-stackexchange"
120
 
121
- [More Information needed](https://github.com/huggingface/datasets/blob/main/CONTRIBUTING.md#how-to-contribute-to-the-dataset-cards)
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
115
  data_files:
116
  - split: train
117
  path: simple/train-*
118
+ license: cc-by-sa-4.0
119
+ task_categories:
120
+ - text-generation
121
+ - question-answering
122
+ language:
123
+ - en
124
+ - ja
125
+ tags:
126
+ - stackexchange
127
+ pretty_name: Japanese StackExchange
128
+ size_categories:
129
+ - 10K<n<100K
130
  ---
 
131
 
132
+ # japanese-stackexchange
133
+
134
+ 英語による日本語に関する質問ができる [Japanese Stack Exchange](https://japanese.stackexchange.com/) の[データダンプ](https://archive.org/download/stackexchange) をもとにデータを加工し、質問文と回答文のペアになるように調整した QA データセット。
135
+
136
+ 日本語翻訳された StackExchange ではないです。
137
+
138
+ ## データ構造
139
+
140
+ 投稿本文は `html2text` を使ってマークダウン化されています。その際、
141
+
142
+ - コードブロックは \`\`\` で囲まれるように変更されています。
143
+ - 画像 URL に base64 エンコードされた画像が含まれる場合、 `[unk]` に置き換えています。
144
+
145
+ ### `default` サブセット
146
+
147
+ - `id`: 質問投稿の ID
148
+ - `question`: 質問投稿
149
+ - `answers`: 質問に対する回答投稿のリスト
150
+ - `accepted_answer_id`: 質問者に選ばれた回答のID。`null` の可能性がある
151
+ - `popular_answer_id`: もっともスコアが高かった回答のID。`null` の可能性がある
152
+
153
+
154
+ ### `simple` サブセット
155
+
156
+ `default` サブセットから、 `question` と `answers` の辞書を展開しシンプルにしたもの。
157
+
158
+ - `id`: 質問投稿の ID
159
+ - `accepted_answer_id`: 質問者に選ばれた回答のID。`null` の可能性がある
160
+ - `popular_answer_id`: もっともスコアが高かった回答のID。`null` の可能性がある
161
+ - `title`: 質問のタイトル
162
+ - `question_body`: 質問本文
163
+ - `question_score`: 質問のスコア
164
+ - `tags`: 質問に関連付けられたタグ
165
+ - `accepted_answer_body`: 質問者に選ばれた回答の本文。`null` の可能性がある
166
+ - `accepted_answer_score`: 質問者に選ばれた回答のスコア。`null` の可能性がある
167
+ - `popular_answer_body`: もっともスコアが高かった回答の本文。`null` の可能性がある
168
+ - `popular_answer_score`: もっともスコアが高かった回答のスコア。`null` の可能性がある
169
+
170
+ ## 使い方
171
+
172
+ datasets ライブラリを用いて簡単に利用できます。
173
+
174
+ ```py
175
+ from datasets import load_dataset
176
+ dataset = load_dataset("p1atdev/japanese-stackexchange", config_name="simple" split="train")
177
+ print(dataset)
178
+ #Dataset({
179
+ # features: ['id', 'accepted_answer_id', 'popular_answer_id', 'title', 'question_body', 'question_score', 'accepted_answer_body', 'accepted_answer_score', 'popular_answer_body', 'popular_answer_score', 'tags'],
180
+ # num_rows: 28428
181
+ #})
182
+ ```
183
+
184
+
185
+ ## ライセンス
186
+
187
+ StackOverflow に基づき、[CC BY-SA 4.0](https://creativecommons.org/licenses/by-sa/4.0/deed.ja)
188
+