File size: 1,359 Bytes
3438fe4 4fa5c4f 3438fe4 3e34623 4fa5c4f 3e34623 4fa5c4f 3e34623 3438fe4 319e88e 3997135 319e88e 3438fe4 3e34623 3438fe4 4fa5c4f 07b1b29 4ef67c9 07b1b29 |
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 |
---
language:
- ja
pretty_name: MMARCO-Ja
dataset_info:
- config_name: collection
features:
- name: text
dtype: string
splits:
- name: train
num_bytes: 3818456967
num_examples: 8841823
download_size: 1864051764
dataset_size: 3818456967
- config_name: dataset
features:
- name: anc
dtype: string
- name: pos_ids
sequence: int64
- name: neg_ids
sequence: int64
splits:
- name: train
num_bytes: 342315525.0
num_examples: 391060
download_size: 296141747
dataset_size: 342315525.0
configs:
- config_name: collection
data_files:
- split: train
path: collection/train-*
- config_name: dataset
data_files:
- split: train
path: dataset/train-*
---
[mmarco](https://huggingface.co/datasets/unicamp-dl/mmarco)データセットのquery--passageのペアについて、queryをkeyとして重複を削除したデータセットです。
元データ中のエンコーディング周りのミスの修正やNFKC正規化などの前処理を行ってあります。
`dataset` subsetの`pos_ids`および`neg_ids`中のidは、`collection`subsetのインデックス番号に対応しています。
したがって、`collection[pos_id]`のようにアクセスしてもらえれば所望のデータを得ることができます。
ライセンスは元データセットに従います。 |