|
--- |
|
language: |
|
- ja |
|
pretty_name: MMARCO-Ja |
|
dataset_info: |
|
- config_name: collection |
|
features: |
|
- name: text |
|
dtype: string |
|
splits: |
|
- name: train |
|
num_bytes: 3818456967 |
|
num_examples: 8841823 |
|
download_size: 1864051764 |
|
dataset_size: 3818456967 |
|
- config_name: dataset |
|
features: |
|
- name: anc |
|
dtype: string |
|
- name: pos_ids |
|
sequence: int64 |
|
- name: neg_ids |
|
sequence: int64 |
|
splits: |
|
- name: train |
|
num_bytes: 342315525.0 |
|
num_examples: 391060 |
|
download_size: 296141747 |
|
dataset_size: 342315525.0 |
|
configs: |
|
- config_name: collection |
|
data_files: |
|
- split: train |
|
path: collection/train-* |
|
- config_name: dataset |
|
data_files: |
|
- split: train |
|
path: dataset/train-* |
|
--- |
|
|
|
[mmarco](https://huggingface.co/datasets/unicamp-dl/mmarco)データセットのquery--passageのペアについて、queryをkeyとして重複を削除したデータセットです。 |
|
|
|
元データ中のエンコーディング周りのミスの修正やNFKC正規化などの前処理を行ってあります。 |
|
|
|
`dataset` subsetの`pos_ids`および`neg_ids`中のidは、`collection`subsetのインデックス番号に対応しています。 |
|
したがって、`collection[pos_id]`のようにアクセスしてもらえれば所望のデータを得ることができます。 |
|
|
|
ライセンスは元データセットに従います。 |
