README.md

---
dataset_info:
- config_name: default
  features:
  - name: question
    struct:
    - name: accepted_answer_id
      dtype: string
    - name: answer_count
      dtype: int64
    - name: body
      dtype: string
    - name: comment_count
      dtype: int64
    - name: content_license
      dtype: string
    - name: creation_date
      dtype: string
    - name: favorite_count
      dtype: int64
    - name: id
      dtype: string
    - name: last_activity_date
      dtype: string
    - name: last_edit_date
      dtype: string
    - name: last_editor_user_id
      dtype: string
    - name: owner_user_id
      dtype: string
    - name: post_type
      dtype: string
    - name: score
      dtype: int64
    - name: tags
      sequence: string
    - name: title
      dtype: string
    - name: view_count
      dtype: int64
  - name: answers
    list:
    - name: body
      dtype: string
    - name: comment_count
      dtype: int64
    - name: content_license
      dtype: string
    - name: creation_date
      dtype: string
    - name: id
      dtype: string
    - name: last_activity_date
      dtype: string
    - name: last_edit_date
      dtype: string
    - name: last_editor_user_id
      dtype: string
    - name: owner_user_id
      dtype: string
    - name: parent_id
      dtype: string
    - name: post_type
      dtype: string
    - name: score
      dtype: int64
  - name: id
    dtype: string
  - name: accepted_answer_id
    dtype: string
  - name: popular_answer_id
    dtype: string
  splits:
  - name: train
    num_bytes: 67721507
    num_examples: 28428
  download_size: 38951308
  dataset_size: 67721507
- config_name: simple
  features:
  - name: id
    dtype: string
  - name: accepted_answer_id
    dtype: string
  - name: popular_answer_id
    dtype: string
  - name: title
    dtype: string
  - name: question_body
    dtype: string
  - name: question_score
    dtype: int64
  - name: accepted_answer_body
    dtype: string
  - name: accepted_answer_score
    dtype: int64
  - name: popular_answer_body
    dtype: string
  - name: popular_answer_score
    dtype: int64
  - name: tags
    sequence: string
  splits:
  - name: train
    num_bytes: 66135683
    num_examples: 28428
  download_size: 40717946
  dataset_size: 66135683
configs:
- config_name: default
  data_files:
  - split: train
    path: data/train-*
- config_name: simple
  data_files:
  - split: train
    path: simple/train-*
license: cc-by-sa-4.0
task_categories:
- text-generation
- question-answering
language:
- en
- ja
tags:
- stackexchange
pretty_name: Japanese StackExchange
size_categories:
- 10K<n<100K
---

# japanese-stackexchange

英語による日本語に関する質問ができる [Japanese Stack Exchange](https://japanese.stackexchange.com/) の[データダンプ](https://archive.org/download/stackexchange) をもとにデータを加工し、質問文と回答文のペアになるように調整した QA データセット。

日本語翻訳された StackExchange ではないです。

## データ構造

投稿本文は `html2text` を使ってマークダウン化されています。その際、

- コードブロックは \`\`\` で囲まれるように変更されています。
- 画像 URL に base64 エンコードされた画像が含まれる場合、 `[unk]` に置き換えています。

### `default` サブセット

- `id`: 質問投稿の ID
- `question`: 質問投稿
- `answers`: 質問に対する回答投稿のリスト
- `accepted_answer_id`: 質問者に選ばれた回答のID。`null` の可能性がある
- `popular_answer_id`: もっともスコアが高かった回答のID。`null` の可能性がある


### `simple` サブセット 

`default` サブセットから、 `question` と `answers` の辞書を展開しシンプルにしたもの。

- `id`: 質問投稿の ID
- `accepted_answer_id`: 質問者に選ばれた回答のID。`null` の可能性がある
- `popular_answer_id`: もっともスコアが高かった回答のID。`null` の可能性がある
- `title`: 質問のタイトル
- `question_body`: 質問本文
- `question_score`: 質問のスコア
- `tags`: 質問に関連付けられたタグ
- `accepted_answer_body`: 質問者に選ばれた回答の本文。`null` の可能性がある
- `accepted_answer_score`: 質問者に選ばれた回答のスコア。`null` の可能性がある
- `popular_answer_body`: もっともスコアが高かった回答の本文。`null` の可能性がある
- `popular_answer_score`: もっともスコアが高かった回答のスコア。`null` の可能性がある

## 使い方

datasets ライブラリを用いて簡単に利用できます。

```py
from datasets import load_dataset
dataset = load_dataset("p1atdev/japanese-stackexchange", name="simple" split="train")
print(dataset)
#Dataset({
#    features: ['id', 'accepted_answer_id', 'popular_answer_id', 'title', 'question_body', 'question_score', 'accepted_answer_body', 'accepted_answer_score', 'popular_answer_body', 'popular_answer_score', 'tags'],
#    num_rows: 28428
#})
```


## ライセンス

StackExchange に基づき、[CC BY-SA 4.0](https://creativecommons.org/licenses/by-sa/4.0/deed.ja)