p1atdev/open2ch

おーぷん2ちゃんねる対話コーパス

Dataset Details

Dataset Description

おーぷん2ちゃんねる対話コーパス を Huggingface Datasets 向けに変換したものになります。

• Curated by: [More Information Needed]
• Language: Japanese
• License: Apache-2.0

Dataset Sources

• Repository: https://github.com/1never/open2ch-dialogue-corpus

Dataset Structure

• all-corpus: livejupiter, news4vip, newsplus サブセットを連結したもの

  • dialogue: 対話データ (list[dict])
    • speaker: 話者番号。1 または 2。
    • content: 発言内容
  • board: 連結元のサブセット名

• livejupiter: オリジナルのデータセットでの livejupiter.tsv から変換されたデータ。

  • dialogue: 対話データ (list[dict])
    • speaker: 話者番号。1 または 2。
    • content: 発言内容

• news4vip: オリジナルのデータセットでの news4vip.tsv から変換されたデータ。

  • 構造は同上

• newsplus: オリジナルのデータセットでの newsplus.tsv から変換されたデータ。

  • 構造は同上

• ranking: 応答順位付けタスク用データ (オリジナルデータセットでの ranking.zip)

  • train と test split があり、それぞれはオリジナルデータセットの dev.tsv と test.tsv に対応します。
  • dialogue: 対話データ (list[dict])
    • speaker: 話者番号。1 または 2。
    • content: 発言内容
  • next: 対話の次に続く正解の応答 (dict)
    • speaker: 話者番号。1 または 2
    • content: 発言内容
  • random: ランダムに選ばれた応答 9 個 (list[str])

また、all-corpus, livejupiter, news4vip, newsplus にはそれぞれ名前に -cleaned が付与されたバージョンがあり、これらのサブセットではオリジナルのデータセットで配布されていた NG ワードリストを利用してフィルタリングされたものです。

オリジナルのデータセットでは各発言内の改行は __BR__ に置換されていますが、このデータセットではすべて \n に置き換えられています。

Dataset Creation

Source Data

(オリジナルのデータセットの説明より)

おーぷん2ちゃんねるの「なんでも実況(ジュピター)」「ニュー速VIP」「ニュース速報+」の3つの掲示板をクロールして作成した対話コーパスです． おーぷん2ちゃんねる開設時から2019年7月20日までのデータを使用して作成しました．

Data Collection and Processing

オリジナルのデータセット を参照。

Personal and Sensitive Information

-cleaned ではないサブセットでは、非常に不適切な表現が多いため注意が必要です。

Usage

from datasets import load_dataset

ds = load_dataset(
    "p1atdev/open2ch",
    name="all-corpus",
)

print(ds)
print(ds["train"][0])
# DatasetDict({
#     train: Dataset({
#         features: ['dialogue', 'board'],
#         num_rows: 8134707
#     })
# })
# {'dialogue': {'speaker': [1, 2], 'content': ['実況スレをたてる', 'おんｊ民の鑑']}, 'board': 'livejupiter'}