File size: 25,016 Bytes
a168b86 |
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87 88 89 90 91 92 93 94 95 96 97 98 99 100 101 102 103 104 105 106 107 108 109 110 111 112 113 114 115 116 117 118 119 120 121 122 123 124 125 126 127 128 129 130 131 132 133 134 135 136 137 138 139 140 141 142 143 144 145 146 147 148 149 150 151 152 153 154 155 156 157 158 159 160 161 162 163 164 165 166 167 168 169 170 171 172 173 174 175 176 177 178 179 180 181 182 183 184 185 186 187 188 189 190 191 192 193 194 195 196 197 198 199 200 201 202 203 204 205 206 207 208 209 210 211 212 213 214 215 216 217 218 219 220 221 222 223 224 225 226 227 228 229 230 231 232 233 234 235 236 237 238 239 240 241 242 243 244 245 246 247 248 249 250 251 252 253 254 255 256 |
"""multilingual cc news dataset."""
import gzip
import json
import datasets
logger = datasets.logging.get_logger(__name__)
_DESCRIPTION = """\
Multilingual CC-News dataset.
This is the processed version from https://huggingface.co/datasets/CloverSearch/cc-news-mutlilingual.
"""
_DATA_URL = "https://huggingface.co/datasets/CloverSearch/cc-news-mutlilingual/resolve/main"
_LANGUAGE_TO_PATH_LIST = {
"af": ['2016/af.jsonl.gz', '2017/af.jsonl.gz', '2018/af.jsonl.gz', '2019/af.jsonl.gz', '2020/af.jsonl.gz', '2021/af.jsonl.gz'],
"als": ['2016/als.jsonl.gz', '2017/als.jsonl.gz', '2018/als.jsonl.gz', '2019/als.jsonl.gz', '2020/als.jsonl.gz', '2021/als.jsonl.gz'],
"am": ['2016/am.jsonl.gz', '2017/am.jsonl.gz', '2018/am.jsonl.gz', '2019/am.jsonl.gz', '2020/am.jsonl.gz', '2021/am.jsonl.gz'],
"an": ['2017/an.jsonl.gz', '2018/an.jsonl.gz', '2019/an.jsonl.gz', '2020/an.jsonl.gz', '2021/an.jsonl.gz'],
"ar": ['2016/ar.jsonl.gz', '2017/ar.jsonl.gz', '2018/ar.jsonl.gz', '2019/ar.jsonl.gz', '2020/ar.jsonl.gz', '2021/ar.jsonl.gz'],
"arz": ['2016/arz.jsonl.gz', '2017/arz.jsonl.gz', '2018/arz.jsonl.gz', '2019/arz.jsonl.gz', '2020/arz.jsonl.gz', '2021/arz.jsonl.gz'],
"as": ['2018/as.jsonl.gz', '2019/as.jsonl.gz', '2020/as.jsonl.gz', '2021/as.jsonl.gz'],
"ast": ['2016/ast.jsonl.gz', '2017/ast.jsonl.gz', '2018/ast.jsonl.gz', '2019/ast.jsonl.gz', '2020/ast.jsonl.gz', '2021/ast.jsonl.gz'],
"av": ['2016/av.jsonl.gz', '2017/av.jsonl.gz', '2018/av.jsonl.gz', '2019/av.jsonl.gz', '2020/av.jsonl.gz', '2021/av.jsonl.gz'],
"az": ['2016/az.jsonl.gz', '2017/az.jsonl.gz', '2018/az.jsonl.gz', '2019/az.jsonl.gz', '2020/az.jsonl.gz', '2021/az.jsonl.gz'],
"azb": ['2016/azb.jsonl.gz', '2017/azb.jsonl.gz', '2018/azb.jsonl.gz', '2019/azb.jsonl.gz', '2020/azb.jsonl.gz', '2021/azb.jsonl.gz'],
"ba": ['2016/ba.jsonl.gz', '2017/ba.jsonl.gz', '2018/ba.jsonl.gz', '2019/ba.jsonl.gz', '2020/ba.jsonl.gz', '2021/ba.jsonl.gz'],
"bar": ['2016/bar.jsonl.gz', '2017/bar.jsonl.gz', '2018/bar.jsonl.gz', '2019/bar.jsonl.gz', '2020/bar.jsonl.gz', '2021/bar.jsonl.gz'],
"bcl": ['2017/bcl.jsonl.gz', '2018/bcl.jsonl.gz', '2019/bcl.jsonl.gz', '2020/bcl.jsonl.gz', '2021/bcl.jsonl.gz'],
"be": ['2016/be.jsonl.gz', '2017/be.jsonl.gz', '2018/be.jsonl.gz', '2019/be.jsonl.gz', '2020/be.jsonl.gz', '2021/be.jsonl.gz'],
"bg": ['2016/bg.jsonl.gz', '2017/bg.jsonl.gz', '2018/bg.jsonl.gz', '2019/bg.jsonl.gz', '2020/bg.jsonl.gz', '2021/bg.jsonl.gz'],
"bh": ['2018/bh.jsonl.gz', '2019/bh.jsonl.gz', '2020/bh.jsonl.gz', '2021/bh.jsonl.gz'],
"bn": ['2016/bn.jsonl.gz', '2017/bn.jsonl.gz', '2018/bn.jsonl.gz', '2019/bn.jsonl.gz', '2020/bn.jsonl.gz', '2021/bn.jsonl.gz'],
"bo": ['2017/bo.jsonl.gz', '2018/bo.jsonl.gz', '2019/bo.jsonl.gz', '2020/bo.jsonl.gz', '2021/bo.jsonl.gz'],
"bpy": ['2019/bpy.jsonl.gz', '2020/bpy.jsonl.gz', '2021/bpy.jsonl.gz'],
"br": ['2016/br.jsonl.gz', '2017/br.jsonl.gz', '2018/br.jsonl.gz', '2019/br.jsonl.gz', '2020/br.jsonl.gz', '2021/br.jsonl.gz'],
"bs": ['2016/bs.jsonl.gz', '2017/bs.jsonl.gz', '2018/bs.jsonl.gz', '2019/bs.jsonl.gz', '2020/bs.jsonl.gz', '2021/bs.jsonl.gz'],
"bxr": ['2016/bxr.jsonl.gz', '2017/bxr.jsonl.gz', '2018/bxr.jsonl.gz', '2019/bxr.jsonl.gz', '2020/bxr.jsonl.gz', '2021/bxr.jsonl.gz'],
"ca": ['2016/ca.jsonl.gz', '2017/ca.jsonl.gz', '2018/ca.jsonl.gz', '2019/ca.jsonl.gz', '2020/ca.jsonl.gz', '2021/ca.jsonl.gz'],
"cbk": ['2017/cbk.jsonl.gz', '2018/cbk.jsonl.gz', '2020/cbk.jsonl.gz', '2021/cbk.jsonl.gz'],
"ce": ['2017/ce.jsonl.gz', '2018/ce.jsonl.gz', '2019/ce.jsonl.gz', '2020/ce.jsonl.gz', '2021/ce.jsonl.gz'],
"ceb": ['2016/ceb.jsonl.gz', '2017/ceb.jsonl.gz', '2018/ceb.jsonl.gz', '2019/ceb.jsonl.gz', '2020/ceb.jsonl.gz', '2021/ceb.jsonl.gz'],
"ckb": ['2016/ckb.jsonl.gz', '2017/ckb.jsonl.gz', '2018/ckb.jsonl.gz', '2019/ckb.jsonl.gz', '2020/ckb.jsonl.gz', '2021/ckb.jsonl.gz'],
"co": ['2018/co.jsonl.gz', '2020/co.jsonl.gz', '2021/co.jsonl.gz'],
"cs": ['2016/cs.jsonl.gz', '2017/cs.jsonl.gz', '2018/cs.jsonl.gz', '2019/cs.jsonl.gz', '2020/cs.jsonl.gz', '2021/cs.jsonl.gz'],
"cv": ['2016/cv.jsonl.gz', '2017/cv.jsonl.gz', '2018/cv.jsonl.gz', '2019/cv.jsonl.gz', '2020/cv.jsonl.gz', '2021/cv.jsonl.gz'],
"cy": ['2016/cy.jsonl.gz', '2017/cy.jsonl.gz', '2018/cy.jsonl.gz', '2019/cy.jsonl.gz', '2020/cy.jsonl.gz', '2021/cy.jsonl.gz'],
"da": ['2016/da.jsonl.gz', '2017/da.jsonl.gz', '2018/da.jsonl.gz', '2019/da.jsonl.gz', '2020/da.jsonl.gz', '2021/da.jsonl.gz'],
"de": ['2016/de.jsonl.gz', '2017/de.jsonl.gz', '2018/de.jsonl.gz', '2019/de.jsonl.gz', '2020/de.jsonl.gz', '2021/de.jsonl.gz'],
"diq": ['2017/diq.jsonl.gz', '2018/diq.jsonl.gz', '2019/diq.jsonl.gz', '2020/diq.jsonl.gz', '2021/diq.jsonl.gz'],
"dsb": ['2020/dsb.jsonl.gz', '2021/dsb.jsonl.gz'],
"dty": ['2019/dty.jsonl.gz', '2021/dty.jsonl.gz'],
"dv": ['2016/dv.jsonl.gz', '2017/dv.jsonl.gz', '2018/dv.jsonl.gz', '2019/dv.jsonl.gz', '2021/dv.jsonl.gz'],
"el": ['2016/el.jsonl.gz', '2017/el.jsonl.gz', '2018/el.jsonl.gz', '2019/el.jsonl.gz', '2020/el.jsonl.gz', '2021/el.jsonl.gz'],
"eml": ['2016/eml.jsonl.gz', '2017/eml.jsonl.gz', '2018/eml.jsonl.gz', '2019/eml.jsonl.gz', '2020/eml.jsonl.gz', '2021/eml.jsonl.gz'],
"en": ['2016/en.jsonl.gz', '2017/en00.jsonl.gz', '2017/en01.jsonl.gz', '2017/en02.jsonl.gz', '2017/en03.jsonl.gz', '2017/en04.jsonl.gz', '2018/en00.jsonl.gz', '2018/en01.jsonl.gz', '2018/en02.jsonl.gz', '2018/en03.jsonl.gz', '2018/en04.jsonl.gz', '2019/en00.jsonl.gz', '2019/en01.jsonl.gz', '2019/en02.jsonl.gz', '2019/en03.jsonl.gz', '2019/en04.jsonl.gz', '2019/en05.jsonl.gz', '2019/en06.jsonl.gz', '2020/en00.jsonl.gz', '2020/en01.jsonl.gz', '2020/en02.jsonl.gz', '2020/en03.jsonl.gz', '2020/en04.jsonl.gz', '2020/en05.jsonl.gz', '2020/en06.jsonl.gz', '2020/en07.jsonl.gz', '2020/en08.jsonl.gz', '2020/en09.jsonl.gz', '2020/en10.jsonl.gz', '2020/en11.jsonl.gz', '2021/en00.jsonl.gz', '2021/en01.jsonl.gz', '2021/en02.jsonl.gz', '2021/en03.jsonl.gz', '2021/en04.jsonl.gz', '2021/en05.jsonl.gz', '2021/en06.jsonl.gz', '2021/en07.jsonl.gz', '2021/en08.jsonl.gz', '2021/en09.jsonl.gz', '2021/en10.jsonl.gz', '2021/en11.jsonl.gz', '2021/en12.jsonl.gz'],
"eo": ['2016/eo.jsonl.gz', '2017/eo.jsonl.gz', '2018/eo.jsonl.gz', '2019/eo.jsonl.gz', '2020/eo.jsonl.gz', '2021/eo.jsonl.gz'],
"es": ['2016/es.jsonl.gz', '2017/es.jsonl.gz', '2018/es.jsonl.gz', '2019/es.jsonl.gz', '2020/es01.jsonl.gz', '2020/es02.jsonl.gz', '2020/es03.jsonl.gz', '2021/es00.jsonl.gz', '2021/es01.jsonl.gz', '2021/es02.jsonl.gz', '2021/es03.jsonl.gz'],
"et": ['2016/et.jsonl.gz', '2017/et.jsonl.gz', '2018/et.jsonl.gz', '2019/et.jsonl.gz', '2020/et.jsonl.gz', '2021/et.jsonl.gz'],
"eu": ['2016/eu.jsonl.gz', '2017/eu.jsonl.gz', '2018/eu.jsonl.gz', '2019/eu.jsonl.gz', '2020/eu.jsonl.gz', '2021/eu.jsonl.gz'],
"fa": ['2016/fa.jsonl.gz', '2017/fa.jsonl.gz', '2018/fa.jsonl.gz', '2019/fa.jsonl.gz', '2020/fa.jsonl.gz', '2021/fa.jsonl.gz'],
"fi": ['2016/fi.jsonl.gz', '2017/fi.jsonl.gz', '2018/fi.jsonl.gz', '2019/fi.jsonl.gz', '2020/fi.jsonl.gz', '2021/fi.jsonl.gz'],
"fr": ['2016/fr.jsonl.gz', '2017/fr.jsonl.gz', '2018/fr.jsonl.gz', '2019/fr.jsonl.gz', '2020/fr.jsonl.gz', '2021/fr.jsonl.gz'],
"fy": ['2016/fy.jsonl.gz', '2017/fy.jsonl.gz', '2018/fy.jsonl.gz', '2019/fy.jsonl.gz', '2020/fy.jsonl.gz', '2021/fy.jsonl.gz'],
"ga": ['2016/ga.jsonl.gz', '2017/ga.jsonl.gz', '2018/ga.jsonl.gz', '2019/ga.jsonl.gz', '2020/ga.jsonl.gz', '2021/ga.jsonl.gz'],
"gd": ['2016/gd.jsonl.gz', '2017/gd.jsonl.gz', '2018/gd.jsonl.gz', '2019/gd.jsonl.gz', '2020/gd.jsonl.gz', '2021/gd.jsonl.gz'],
"gl": ['2016/gl.jsonl.gz', '2017/gl.jsonl.gz', '2018/gl.jsonl.gz', '2019/gl.jsonl.gz', '2020/gl.jsonl.gz', '2021/gl.jsonl.gz'],
"gn": ['2016/gn.jsonl.gz', '2017/gn.jsonl.gz', '2018/gn.jsonl.gz', '2019/gn.jsonl.gz', '2020/gn.jsonl.gz', '2021/gn.jsonl.gz'],
"gom": ['2017/gom.jsonl.gz', '2018/gom.jsonl.gz', '2019/gom.jsonl.gz', '2020/gom.jsonl.gz', '2021/gom.jsonl.gz'],
"gu": ['2016/gu.jsonl.gz', '2017/gu.jsonl.gz', '2018/gu.jsonl.gz', '2019/gu.jsonl.gz', '2020/gu.jsonl.gz', '2021/gu.jsonl.gz'],
"gv": ['2017/gv.jsonl.gz', '2018/gv.jsonl.gz', '2019/gv.jsonl.gz', '2020/gv.jsonl.gz', '2021/gv.jsonl.gz'],
"he": ['2016/he.jsonl.gz', '2017/he.jsonl.gz', '2018/he.jsonl.gz', '2019/he.jsonl.gz', '2020/he.jsonl.gz', '2021/he.jsonl.gz'],
"hi": ['2016/hi.jsonl.gz', '2017/hi.jsonl.gz', '2018/hi.jsonl.gz', '2019/hi.jsonl.gz', '2020/hi.jsonl.gz', '2021/hi.jsonl.gz'],
"hif": ['2021/hif.jsonl.gz'],
"hr": ['2016/hr.jsonl.gz', '2017/hr.jsonl.gz', '2018/hr.jsonl.gz', '2019/hr.jsonl.gz', '2020/hr.jsonl.gz', '2021/hr.jsonl.gz'],
"hsb": ['2017/hsb.jsonl.gz', '2018/hsb.jsonl.gz', '2019/hsb.jsonl.gz', '2020/hsb.jsonl.gz', '2021/hsb.jsonl.gz'],
"ht": ['2016/ht.jsonl.gz', '2017/ht.jsonl.gz', '2018/ht.jsonl.gz', '2019/ht.jsonl.gz', '2020/ht.jsonl.gz', '2021/ht.jsonl.gz'],
"hu": ['2016/hu.jsonl.gz', '2017/hu.jsonl.gz', '2018/hu.jsonl.gz', '2019/hu.jsonl.gz', '2020/hu.jsonl.gz', '2021/hu.jsonl.gz'],
"hy": ['2016/hy.jsonl.gz', '2017/hy.jsonl.gz', '2018/hy.jsonl.gz', '2019/hy.jsonl.gz', '2020/hy.jsonl.gz', '2021/hy.jsonl.gz'],
"ia": ['2016/ia.jsonl.gz', '2017/ia.jsonl.gz', '2018/ia.jsonl.gz', '2019/ia.jsonl.gz', '2020/ia.jsonl.gz', '2021/ia.jsonl.gz'],
"id": ['2016/id.jsonl.gz', '2017/id.jsonl.gz', '2018/id.jsonl.gz', '2019/id.jsonl.gz', '2020/id.jsonl.gz', '2021/id.jsonl.gz'],
"ie": ['2016/ie.jsonl.gz', '2017/ie.jsonl.gz', '2018/ie.jsonl.gz', '2019/ie.jsonl.gz', '2020/ie.jsonl.gz', '2021/ie.jsonl.gz'],
"ilo": ['2016/ilo.jsonl.gz', '2017/ilo.jsonl.gz', '2018/ilo.jsonl.gz', '2019/ilo.jsonl.gz', '2020/ilo.jsonl.gz', '2021/ilo.jsonl.gz'],
"io": ['2016/io.jsonl.gz', '2017/io.jsonl.gz', '2018/io.jsonl.gz', '2019/io.jsonl.gz', '2020/io.jsonl.gz', '2021/io.jsonl.gz'],
"is": ['2016/is.jsonl.gz', '2017/is.jsonl.gz', '2018/is.jsonl.gz', '2019/is.jsonl.gz', '2020/is.jsonl.gz', '2021/is.jsonl.gz'],
"it": ['2016/it.jsonl.gz', '2017/it.jsonl.gz', '2018/it.jsonl.gz', '2019/it.jsonl.gz', '2020/it.jsonl.gz', '2021/it.jsonl.gz'],
"ja": ['2016/ja.jsonl.gz', '2017/ja.jsonl.gz', '2018/ja.jsonl.gz', '2019/ja.jsonl.gz', '2020/ja.jsonl.gz', '2021/ja.jsonl.gz'],
"jbo": ['2016/jbo.jsonl.gz', '2017/jbo.jsonl.gz', '2018/jbo.jsonl.gz', '2019/jbo.jsonl.gz', '2020/jbo.jsonl.gz', '2021/jbo.jsonl.gz'],
"jv": ['2016/jv.jsonl.gz', '2017/jv.jsonl.gz', '2018/jv.jsonl.gz', '2019/jv.jsonl.gz', '2020/jv.jsonl.gz', '2021/jv.jsonl.gz'],
"ka": ['2016/ka.jsonl.gz', '2017/ka.jsonl.gz', '2018/ka.jsonl.gz', '2019/ka.jsonl.gz', '2020/ka.jsonl.gz', '2021/ka.jsonl.gz'],
"kk": ['2016/kk.jsonl.gz', '2017/kk.jsonl.gz', '2018/kk.jsonl.gz', '2019/kk.jsonl.gz', '2020/kk.jsonl.gz', '2021/kk.jsonl.gz'],
"km": ['2017/km.jsonl.gz', '2018/km.jsonl.gz', '2019/km.jsonl.gz', '2020/km.jsonl.gz', '2021/km.jsonl.gz'],
"kn": ['2016/kn.jsonl.gz', '2017/kn.jsonl.gz', '2018/kn.jsonl.gz', '2019/kn.jsonl.gz', '2020/kn.jsonl.gz', '2021/kn.jsonl.gz'],
"ko": ['2016/ko.jsonl.gz', '2017/ko.jsonl.gz', '2018/ko.jsonl.gz', '2019/ko.jsonl.gz', '2020/ko.jsonl.gz', '2021/ko.jsonl.gz'],
"krc": ['2016/krc.jsonl.gz', '2017/krc.jsonl.gz', '2018/krc.jsonl.gz', '2019/krc.jsonl.gz', '2020/krc.jsonl.gz', '2021/krc.jsonl.gz'],
"ku": ['2016/ku.jsonl.gz', '2017/ku.jsonl.gz', '2018/ku.jsonl.gz', '2019/ku.jsonl.gz', '2020/ku.jsonl.gz', '2021/ku.jsonl.gz'],
"kv": ['2017/kv.jsonl.gz', '2018/kv.jsonl.gz', '2019/kv.jsonl.gz', '2020/kv.jsonl.gz', '2021/kv.jsonl.gz'],
"kw": ['2016/kw.jsonl.gz', '2017/kw.jsonl.gz', '2018/kw.jsonl.gz', '2019/kw.jsonl.gz', '2020/kw.jsonl.gz', '2021/kw.jsonl.gz'],
"ky": ['2016/ky.jsonl.gz', '2017/ky.jsonl.gz', '2018/ky.jsonl.gz', '2019/ky.jsonl.gz', '2020/ky.jsonl.gz', '2021/ky.jsonl.gz'],
"la": ['2016/la.jsonl.gz', '2017/la.jsonl.gz', '2018/la.jsonl.gz', '2019/la.jsonl.gz', '2020/la.jsonl.gz', '2021/la.jsonl.gz'],
"lb": ['2016/lb.jsonl.gz', '2017/lb.jsonl.gz', '2018/lb.jsonl.gz', '2019/lb.jsonl.gz', '2020/lb.jsonl.gz', '2021/lb.jsonl.gz'],
"lez": ['2018/lez.jsonl.gz', '2020/lez.jsonl.gz', '2021/lez.jsonl.gz'],
"li": ['2017/li.jsonl.gz', '2018/li.jsonl.gz', '2020/li.jsonl.gz', '2021/li.jsonl.gz'],
"lmo": ['2016/lmo.jsonl.gz', '2017/lmo.jsonl.gz', '2018/lmo.jsonl.gz', '2019/lmo.jsonl.gz', '2020/lmo.jsonl.gz', '2021/lmo.jsonl.gz'],
"lo": ['2016/lo.jsonl.gz', '2017/lo.jsonl.gz', '2018/lo.jsonl.gz', '2019/lo.jsonl.gz', '2020/lo.jsonl.gz', '2021/lo.jsonl.gz'],
"lt": ['2016/lt.jsonl.gz', '2017/lt.jsonl.gz', '2018/lt.jsonl.gz', '2019/lt.jsonl.gz', '2020/lt.jsonl.gz', '2021/lt.jsonl.gz'],
"lv": ['2016/lv.jsonl.gz', '2017/lv.jsonl.gz', '2018/lv.jsonl.gz', '2019/lv.jsonl.gz', '2020/lv.jsonl.gz', '2021/lv.jsonl.gz'],
"mai": ['2020/mai.jsonl.gz', '2021/mai.jsonl.gz'],
"mg": ['2016/mg.jsonl.gz', '2017/mg.jsonl.gz', '2018/mg.jsonl.gz', '2019/mg.jsonl.gz', '2020/mg.jsonl.gz', '2021/mg.jsonl.gz'],
"mhr": ['2016/mhr.jsonl.gz', '2017/mhr.jsonl.gz', '2018/mhr.jsonl.gz', '2019/mhr.jsonl.gz', '2020/mhr.jsonl.gz', '2021/mhr.jsonl.gz'],
"min": ['2017/min.jsonl.gz', '2018/min.jsonl.gz', '2019/min.jsonl.gz', '2020/min.jsonl.gz', '2021/min.jsonl.gz'],
"mk": ['2016/mk.jsonl.gz', '2017/mk.jsonl.gz', '2018/mk.jsonl.gz', '2019/mk.jsonl.gz', '2020/mk.jsonl.gz', '2021/mk.jsonl.gz'],
"ml": ['2016/ml.jsonl.gz', '2017/ml.jsonl.gz', '2018/ml.jsonl.gz', '2019/ml.jsonl.gz', '2020/ml.jsonl.gz', '2021/ml.jsonl.gz'],
"mn": ['2016/mn.jsonl.gz', '2017/mn.jsonl.gz', '2018/mn.jsonl.gz', '2019/mn.jsonl.gz', '2020/mn.jsonl.gz', '2021/mn.jsonl.gz'],
"mr": ['2016/mr.jsonl.gz', '2017/mr.jsonl.gz', '2018/mr.jsonl.gz', '2019/mr.jsonl.gz', '2020/mr.jsonl.gz', '2021/mr.jsonl.gz'],
"mrj": ['2017/mrj.jsonl.gz', '2020/mrj.jsonl.gz'],
"ms": ['2016/ms.jsonl.gz', '2017/ms.jsonl.gz', '2018/ms.jsonl.gz', '2019/ms.jsonl.gz', '2020/ms.jsonl.gz', '2021/ms.jsonl.gz'],
"mt": ['2016/mt.jsonl.gz', '2017/mt.jsonl.gz', '2018/mt.jsonl.gz', '2019/mt.jsonl.gz', '2020/mt.jsonl.gz', '2021/mt.jsonl.gz'],
"mwl": ['2017/mwl.jsonl.gz', '2018/mwl.jsonl.gz', '2019/mwl.jsonl.gz', '2020/mwl.jsonl.gz'],
"my": ['2016/my.jsonl.gz', '2017/my.jsonl.gz', '2018/my.jsonl.gz', '2019/my.jsonl.gz', '2020/my.jsonl.gz', '2021/my.jsonl.gz'],
"myv": ['2017/myv.jsonl.gz', '2018/myv.jsonl.gz', '2019/myv.jsonl.gz', '2020/myv.jsonl.gz'],
"mzn": ['2017/mzn.jsonl.gz', '2018/mzn.jsonl.gz', '2019/mzn.jsonl.gz', '2020/mzn.jsonl.gz', '2021/mzn.jsonl.gz'],
"nah": ['2019/nah.jsonl.gz'],
"nap": ['2016/nap.jsonl.gz', '2017/nap.jsonl.gz', '2018/nap.jsonl.gz', '2019/nap.jsonl.gz', '2020/nap.jsonl.gz', '2021/nap.jsonl.gz'],
"nds": ['2016/nds.jsonl.gz', '2017/nds.jsonl.gz', '2018/nds.jsonl.gz', '2019/nds.jsonl.gz', '2020/nds.jsonl.gz', '2021/nds.jsonl.gz'],
"ne": ['2016/ne.jsonl.gz', '2017/ne.jsonl.gz', '2018/ne.jsonl.gz', '2019/ne.jsonl.gz', '2020/ne.jsonl.gz', '2021/ne.jsonl.gz'],
"new": ['2016/new.jsonl.gz', '2017/new.jsonl.gz', '2018/new.jsonl.gz', '2019/new.jsonl.gz', '2020/new.jsonl.gz', '2021/new.jsonl.gz'],
"nl": ['2016/nl.jsonl.gz', '2017/nl.jsonl.gz', '2018/nl.jsonl.gz', '2019/nl.jsonl.gz', '2020/nl.jsonl.gz', '2021/nl.jsonl.gz'],
"nn": ['2016/nn.jsonl.gz', '2017/nn.jsonl.gz', '2018/nn.jsonl.gz', '2019/nn.jsonl.gz', '2020/nn.jsonl.gz', '2021/nn.jsonl.gz'],
"no": ['2016/no.jsonl.gz', '2017/no.jsonl.gz', '2018/no.jsonl.gz', '2019/no.jsonl.gz', '2020/no.jsonl.gz', '2021/no.jsonl.gz'],
"oc": ['2016/oc.jsonl.gz', '2017/oc.jsonl.gz', '2018/oc.jsonl.gz', '2019/oc.jsonl.gz', '2020/oc.jsonl.gz', '2021/oc.jsonl.gz'],
"or": ['2018/or.jsonl.gz', '2019/or.jsonl.gz', '2020/or.jsonl.gz', '2021/or.jsonl.gz'],
"os": ['2020/os.jsonl.gz', '2021/os.jsonl.gz'],
"pa": ['2016/pa.jsonl.gz', '2017/pa.jsonl.gz', '2018/pa.jsonl.gz', '2019/pa.jsonl.gz', '2020/pa.jsonl.gz', '2021/pa.jsonl.gz'],
"pam": ['2017/pam.jsonl.gz', '2018/pam.jsonl.gz', '2019/pam.jsonl.gz', '2020/pam.jsonl.gz', '2021/pam.jsonl.gz'],
"pfl": ['2020/pfl.jsonl.gz'],
"pl": ['2016/pl.jsonl.gz', '2017/pl.jsonl.gz', '2018/pl.jsonl.gz', '2019/pl.jsonl.gz', '2020/pl.jsonl.gz', '2021/pl.jsonl.gz'],
"pms": ['2016/pms.jsonl.gz', '2017/pms.jsonl.gz', '2018/pms.jsonl.gz', '2019/pms.jsonl.gz', '2020/pms.jsonl.gz', '2021/pms.jsonl.gz'],
"pnb": ['2016/pnb.jsonl.gz', '2017/pnb.jsonl.gz', '2018/pnb.jsonl.gz', '2019/pnb.jsonl.gz', '2020/pnb.jsonl.gz', '2021/pnb.jsonl.gz'],
"ps": ['2016/ps.jsonl.gz', '2017/ps.jsonl.gz', '2018/ps.jsonl.gz', '2019/ps.jsonl.gz', '2020/ps.jsonl.gz', '2021/ps.jsonl.gz'],
"pt": ['2016/pt.jsonl.gz', '2017/pt.jsonl.gz', '2018/pt.jsonl.gz', '2019/pt.jsonl.gz', '2020/pt.jsonl.gz', '2021/pt.jsonl.gz'],
"qu": ['2016/qu.jsonl.gz', '2017/qu.jsonl.gz', '2018/qu.jsonl.gz', '2019/qu.jsonl.gz', '2020/qu.jsonl.gz', '2021/qu.jsonl.gz'],
"rm": ['2016/rm.jsonl.gz', '2017/rm.jsonl.gz', '2018/rm.jsonl.gz', '2019/rm.jsonl.gz', '2020/rm.jsonl.gz', '2021/rm.jsonl.gz'],
"ro": ['2016/ro.jsonl.gz', '2017/ro.jsonl.gz', '2018/ro.jsonl.gz', '2019/ro.jsonl.gz', '2020/ro.jsonl.gz', '2021/ro.jsonl.gz'],
"ru": ['2016/ru.jsonl.gz', '2017/ru.jsonl.gz', '2018/ru.jsonl.gz', '2019/ru.jsonl.gz', '2020/ru.jsonl.gz', '2021/ru.jsonl.gz'],
"sa": ['2016/sa.jsonl.gz', '2017/sa.jsonl.gz', '2018/sa.jsonl.gz', '2019/sa.jsonl.gz', '2020/sa.jsonl.gz', '2021/sa.jsonl.gz'],
"sah": ['2016/sah.jsonl.gz', '2017/sah.jsonl.gz', '2018/sah.jsonl.gz', '2019/sah.jsonl.gz', '2020/sah.jsonl.gz', '2021/sah.jsonl.gz'],
"sc": ['2017/sc.jsonl.gz', '2018/sc.jsonl.gz', '2019/sc.jsonl.gz', '2020/sc.jsonl.gz', '2021/sc.jsonl.gz'],
"scn": ['2017/scn.jsonl.gz', '2018/scn.jsonl.gz', '2019/scn.jsonl.gz', '2020/scn.jsonl.gz', '2021/scn.jsonl.gz'],
"sco": ['2017/sco.jsonl.gz', '2018/sco.jsonl.gz', '2019/sco.jsonl.gz', '2020/sco.jsonl.gz', '2021/sco.jsonl.gz'],
"sd": ['2016/sd.jsonl.gz', '2017/sd.jsonl.gz', '2018/sd.jsonl.gz', '2019/sd.jsonl.gz', '2020/sd.jsonl.gz', '2021/sd.jsonl.gz'],
"sh": ['2016/sh.jsonl.gz', '2017/sh.jsonl.gz', '2018/sh.jsonl.gz', '2019/sh.jsonl.gz', '2020/sh.jsonl.gz', '2021/sh.jsonl.gz'],
"si": ['2016/si.jsonl.gz', '2017/si.jsonl.gz', '2018/si.jsonl.gz', '2019/si.jsonl.gz', '2020/si.jsonl.gz', '2021/si.jsonl.gz'],
"sk": ['2016/sk.jsonl.gz', '2017/sk.jsonl.gz', '2018/sk.jsonl.gz', '2019/sk.jsonl.gz', '2020/sk.jsonl.gz', '2021/sk.jsonl.gz'],
"sl": ['2016/sl.jsonl.gz', '2017/sl.jsonl.gz', '2018/sl.jsonl.gz', '2019/sl.jsonl.gz', '2020/sl.jsonl.gz', '2021/sl.jsonl.gz'],
"so": ['2016/so.jsonl.gz', '2017/so.jsonl.gz', '2018/so.jsonl.gz', '2019/so.jsonl.gz', '2020/so.jsonl.gz', '2021/so.jsonl.gz'],
"sq": ['2016/sq.jsonl.gz', '2017/sq.jsonl.gz', '2018/sq.jsonl.gz', '2019/sq.jsonl.gz', '2020/sq.jsonl.gz', '2021/sq.jsonl.gz'],
"sr": ['2016/sr.jsonl.gz', '2017/sr.jsonl.gz', '2018/sr.jsonl.gz', '2019/sr.jsonl.gz', '2020/sr.jsonl.gz', '2021/sr.jsonl.gz'],
"su": ['2016/su.jsonl.gz', '2017/su.jsonl.gz', '2018/su.jsonl.gz', '2019/su.jsonl.gz', '2020/su.jsonl.gz', '2021/su.jsonl.gz'],
"sv": ['2016/sv.jsonl.gz', '2017/sv.jsonl.gz', '2018/sv.jsonl.gz', '2019/sv.jsonl.gz', '2020/sv.jsonl.gz', '2021/sv.jsonl.gz'],
"sw": ['2016/sw.jsonl.gz', '2017/sw.jsonl.gz', '2018/sw.jsonl.gz', '2019/sw.jsonl.gz', '2020/sw.jsonl.gz', '2021/sw.jsonl.gz'],
"ta": ['2016/ta.jsonl.gz', '2017/ta.jsonl.gz', '2018/ta.jsonl.gz', '2019/ta.jsonl.gz', '2020/ta.jsonl.gz', '2021/ta.jsonl.gz'],
"te": ['2016/te.jsonl.gz', '2017/te.jsonl.gz', '2018/te.jsonl.gz', '2019/te.jsonl.gz', '2020/te.jsonl.gz', '2021/te.jsonl.gz'],
"tg": ['2016/tg.jsonl.gz', '2017/tg.jsonl.gz', '2018/tg.jsonl.gz', '2019/tg.jsonl.gz', '2020/tg.jsonl.gz', '2021/tg.jsonl.gz'],
"th": ['2016/th.jsonl.gz', '2017/th.jsonl.gz', '2018/th.jsonl.gz', '2019/th.jsonl.gz', '2020/th.jsonl.gz', '2021/th.jsonl.gz'],
"tk": ['2016/tk.jsonl.gz', '2017/tk.jsonl.gz', '2019/tk.jsonl.gz', '2020/tk.jsonl.gz', '2021/tk.jsonl.gz'],
"tl": ['2016/tl.jsonl.gz', '2017/tl.jsonl.gz', '2018/tl.jsonl.gz', '2019/tl.jsonl.gz', '2020/tl.jsonl.gz', '2021/tl.jsonl.gz'],
"tr": ['2016/tr.jsonl.gz', '2017/tr.jsonl.gz', '2018/tr.jsonl.gz', '2019/tr.jsonl.gz', '2020/tr.jsonl.gz', '2021/tr.jsonl.gz'],
"tt": ['2016/tt.jsonl.gz', '2017/tt.jsonl.gz', '2018/tt.jsonl.gz', '2019/tt.jsonl.gz', '2020/tt.jsonl.gz', '2021/tt.jsonl.gz'],
"tyv": ['2018/tyv.jsonl.gz'],
"ug": ['2017/ug.jsonl.gz', '2019/ug.jsonl.gz', '2020/ug.jsonl.gz', '2021/ug.jsonl.gz'],
"uk": ['2016/uk.jsonl.gz', '2017/uk.jsonl.gz', '2018/uk.jsonl.gz', '2019/uk.jsonl.gz', '2020/uk.jsonl.gz', '2021/uk.jsonl.gz'],
"ur": ['2016/ur.jsonl.gz', '2017/ur.jsonl.gz', '2018/ur.jsonl.gz', '2019/ur.jsonl.gz', '2020/ur.jsonl.gz', '2021/ur.jsonl.gz'],
"uz": ['2016/uz.jsonl.gz', '2017/uz.jsonl.gz', '2018/uz.jsonl.gz', '2019/uz.jsonl.gz', '2020/uz.jsonl.gz', '2021/uz.jsonl.gz'],
"vec": ['2016/vec.jsonl.gz', '2017/vec.jsonl.gz', '2018/vec.jsonl.gz', '2019/vec.jsonl.gz', '2020/vec.jsonl.gz', '2021/vec.jsonl.gz'],
"vep": ['2018/vep.jsonl.gz', '2019/vep.jsonl.gz', '2020/vep.jsonl.gz', '2021/vep.jsonl.gz'],
"vi": ['2016/vi.jsonl.gz', '2017/vi.jsonl.gz', '2018/vi.jsonl.gz', '2019/vi.jsonl.gz', '2020/vi.jsonl.gz', '2021/vi.jsonl.gz'],
"vls": ['2017/vls.jsonl.gz', '2018/vls.jsonl.gz'],
"vo": ['2016/vo.jsonl.gz', '2017/vo.jsonl.gz', '2018/vo.jsonl.gz', '2019/vo.jsonl.gz', '2020/vo.jsonl.gz', '2021/vo.jsonl.gz'],
"wa": ['2017/wa.jsonl.gz', '2018/wa.jsonl.gz', '2019/wa.jsonl.gz', '2020/wa.jsonl.gz', '2021/wa.jsonl.gz'],
"war": ['2016/war.jsonl.gz', '2017/war.jsonl.gz', '2018/war.jsonl.gz', '2019/war.jsonl.gz', '2020/war.jsonl.gz', '2021/war.jsonl.gz'],
"wuu": ['2017/wuu.jsonl.gz', '2018/wuu.jsonl.gz', '2019/wuu.jsonl.gz', '2020/wuu.jsonl.gz', '2021/wuu.jsonl.gz'],
"xal": ['2018/xal.jsonl.gz', '2019/xal.jsonl.gz', '2020/xal.jsonl.gz', '2021/xal.jsonl.gz'],
"xmf": ['2021/xmf.jsonl.gz'],
"yi": ['2017/yi.jsonl.gz', '2018/yi.jsonl.gz', '2019/yi.jsonl.gz', '2020/yi.jsonl.gz', '2021/yi.jsonl.gz'],
"yo": ['2017/yo.jsonl.gz', '2018/yo.jsonl.gz', '2019/yo.jsonl.gz', '2020/yo.jsonl.gz', '2021/yo.jsonl.gz'],
"yue": ['2016/yue.jsonl.gz', '2017/yue.jsonl.gz', '2018/yue.jsonl.gz', '2019/yue.jsonl.gz', '2020/yue.jsonl.gz', '2021/yue.jsonl.gz'],
"zh": ['2016/zh.jsonl.gz', '2017/zh.jsonl.gz', '2018/zh.jsonl.gz', '2019/zh.jsonl.gz', '2020/zh.jsonl.gz', '2021/zh.jsonl.gz'],
}
class CCNewsConfig(datasets.BuilderConfig):
def __init__(self, *args, languages, **kwargs):
"""BuilderConfig for CC-News.
Args:
languages (:obj:`List[str]`): list of languages to load
**kwargs: keyword arguments forwarded to super.
"""
super().__init__(
*args,
name="+".join(languages),
**kwargs,
)
self.languages = languages
class Mc4(datasets.GeneratorBasedBuilder):
VERSION = datasets.Version("0.1.0")
BUILDER_CONFIGS = [CCNewsConfig(languages=[lang]) for lang in _LANGUAGE_TO_PATH_LIST]
BUILDER_CONFIG_CLASS = CCNewsConfig
def _info(self):
return datasets.DatasetInfo(
description=_DESCRIPTION,
features=datasets.Features(
{
"title": datasets.Value("string"),
"maintext": datasets.Value("string"),
"url": datasets.Value("string"),
"date_publish": datasets.Value("string"),
}
),
supervised_keys=None,
)
def _split_generators(self, dl_manager):
data_urls = ["{}/{}".format(_DATA_URL, path) for lang in self.config.languages for path in _LANGUAGE_TO_PATH_LIST[lang]]
downloaded_files = dl_manager.download(data_urls)
return [
datasets.SplitGenerator(name=datasets.Split.TRAIN, gen_kwargs={"filepaths": downloaded_files}),
]
def _generate_examples(self, filepaths):
"""This function returns the examples in the raw (text) form by iterating on all the files."""
id_ = 0
for filepath in filepaths:
logger.info("generating examples from = %s", filepath)
with gzip.open(open(filepath, "rb"), "rt", encoding="utf-8") as f:
for line in f:
if line:
example = json.loads(line)
yield id_, {
"title": example["title"] or "",
"maintext": example["maintext"] or "",
"url": example["url"] or "",
"date_publish": example["date_publish"] or "",
}
id_ += 1
|