---
language:
- ja
pretty_name: MMARCO-Ja
dataset_info:
- config_name: collection
  features:
  - name: text
    dtype: string
  splits:
  - name: train
    num_bytes: 3818456967
    num_examples: 8841823
  download_size: 1864051764
  dataset_size: 3818456967
- config_name: dataset
  features:
  - name: anc
    dtype: string
  - name: pos_ids
    sequence: int64
  - name: neg_ids
    sequence: int64
  splits:
  - name: train
    num_bytes: 342315525.0
    num_examples: 391060
  download_size: 296141747
  dataset_size: 342315525.0
configs:
- config_name: collection
  data_files:
  - split: train
    path: collection/train-*
- config_name: dataset
  data_files:
  - split: train
    path: dataset/train-*
---

[mmarco](https://huggingface.co/datasets/unicamp-dl/mmarco)データセットのquery--passageのペアについて、queryをkeyとして重複を削除したデータセットです。

元データ中のエンコーディング周りのミスの修正やNFKC正規化などの前処理を行ってあります。

`dataset` subsetの`pos_ids`および`neg_ids`中のidは、`collection`subsetのインデックス番号に対応しています。
したがって、`collection[pos_id]`のようにアクセスしてもらえれば所望のデータを得ることができます。

ライセンスは元データセットに従います。