Update README.md
Browse files
README.md
CHANGED
@@ -38,3 +38,9 @@ configs:
|
|
38 |
- split: train
|
39 |
path: dataset/train-*
|
40 |
---
|
|
|
|
|
|
|
|
|
|
|
|
|
|
38 |
- split: train
|
39 |
path: dataset/train-*
|
40 |
---
|
41 |
+
|
42 |
+
[mmarco](https://huggingface.co/datasets/unicamp-dl/mmarco)データセットのquery--passageのペアについて、queryをkeyとして重複を削除したデータセットです。
|
43 |
+
|
44 |
+
元データ中のエンコーディング周りのミスの修正やNFKC正規化などの前処理を行ってあります。
|
45 |
+
|
46 |
+
ライセンスは元データセットに従います。
|