""" | |
Declares which languages are available in the Wikipedia dataset per date. | |
Source: https://meta.wikimedia.org/wiki/Names_of_Wikimedia_languages (accessed 6/6/2023) | |
""" | |
WIKIPEDIA_LANGUAGES = { | |
"20230601": [ | |
# "aa", # closed and no dump | |
"ab", | |
"ace", | |
"ady", | |
"af", | |
"ak", # 1 placeholder article, but not closed | |
"als", | |
"alt", | |
"am", | |
"ami", | |
"an", | |
"ang", | |
"anp", | |
"ar", | |
"arc", | |
"ary", | |
"arz", | |
"as", | |
"ast", | |
"atj", | |
"av", | |
"avk", | |
"awa", | |
"ay", | |
"az", | |
"azb", | |
"ba", | |
"ban", | |
"bar", | |
"bat-smg", | |
"be-x-old", | |
"bcl", | |
"be", | |
"bg", | |
"bh", | |
"bi", | |
"bjn", | |
"blk", | |
"bm", | |
"bn", | |
"bo", | |
"bpy", | |
"br", | |
"bs", | |
"bug", | |
"bxr", | |
"ca", | |
"cbk-zam", | |
"cdo", | |
"ce", | |
"ceb", | |
"ch", | |
"cho", # closed | |
"chr", | |
"chy", | |
"ckb", | |
"co", | |
"cr", | |
"crh", | |
"cs", | |
"csb", | |
"cu", | |
"cv", | |
"cy", | |
"da", | |
"dag", | |
"de", | |
"din", | |
"diq", | |
"dsb", | |
"dty", | |
"dv", | |
"dz", | |
"ee", | |
"el", | |
"eml", | |
"en", | |
"eo", | |
"es", | |
"et", | |
"eu", | |
"ext", | |
"fa", | |
"fat", | |
"ff", | |
"fi", | |
"fiu-vro", | |
"fj", | |
"fo", | |
"fr", | |
"frp", | |
"frr", | |
"fur", | |
"fy", | |
"ga", | |
"gag", | |
"gan", | |
"gcr", | |
"gd", | |
"gl", | |
"glk", | |
"gn", | |
"gom", | |
"gor", | |
"got", | |
"gu", | |
"guc", | |
"gur", | |
"guw", | |
"gv", | |
"ha", | |
"hak", | |
"haw", | |
"he", | |
"hi", | |
"hif", | |
"ho", # closed | |
"hr", | |
"hsb", | |
"ht", | |
"hu", | |
"hy", | |
"hyw", | |
# "hz", # closed and no dump | |
"ia", | |
"id", | |
"ie", | |
"ig", | |
"ii", # closed | |
"ik", | |
"ilo", | |
"inh", | |
"io", | |
"is", | |
"it", | |
"iu", | |
"ja", | |
"jam", | |
"jbo", | |
"jv", | |
"ka", | |
"kaa", | |
"kab", | |
"kbd", | |
"kbp", | |
"kcg", | |
"kg", | |
"ki", | |
"kj", # closed | |
"kk", | |
"kl", | |
"km", | |
"kn", | |
"ko", | |
"koi", | |
# "kr", # closed and no dump | |
"krc", | |
"ks", | |
"ksh", | |
"ku", | |
"kv", | |
"kw", | |
"ky", | |
"la", | |
"lad", | |
"lb", | |
"lbe", | |
"lez", | |
"lfn", | |
"lg", | |
"li", | |
"lij", | |
"lld", | |
"lmo", | |
"ln", | |
"lo", | |
"lrc", # closed | |
"lt", | |
"ltg", | |
"lv", | |
"mad", | |
"mai", | |
"map-bms", | |
"mdf", | |
"mg", | |
"mh", # closed | |
"mhr", | |
"mi", | |
"min", | |
"mk", | |
"ml", | |
"mn", | |
"mni", | |
"mnw", | |
"mr", | |
"mrj", | |
"ms", | |
"mt", | |
"mus", # closed | |
"mwl", | |
"my", | |
"myv", | |
"mzn", | |
# "na", # closed and no dump | |
"nah", | |
"nap", | |
"nds", | |
"nds-nl", | |
"ne", | |
"new", | |
"ng", # closed | |
"nia", | |
"nl", | |
"nn", | |
"no", | |
"nov", | |
"nqo", | |
"nrm", | |
"nso", | |
"nv", | |
"ny", | |
"oc", | |
"olo", | |
"om", | |
"or", | |
"os", | |
"pa", | |
"pag", | |
"pam", | |
"pap", | |
"pcd", | |
"pcm", | |
"pdc", | |
"pfl", | |
"pi", | |
"pih", | |
"pl", | |
"pms", | |
"pnb", | |
"pnt", | |
"ps", | |
"pt", | |
"pwn", | |
"qu", | |
"rm", | |
"rmy", | |
"rn", | |
"ro", | |
"roa-rup", | |
"roa-tara", | |
"ru", | |
"rue", | |
"rw", | |
"sa", | |
"sah", | |
"sat", | |
"sc", | |
"scn", | |
"sco", | |
"sd", | |
"se", | |
"sg", | |
"sh", | |
"shi", | |
"shn", | |
"si", | |
"simple", | |
"sk", | |
"skr", | |
"sl", | |
"sm", | |
"smn", | |
"sn", | |
"so", | |
"sq", | |
"sr", | |
"srn", | |
"ss", | |
"st", | |
"stq", | |
"su", | |
"sv", | |
"sw", | |
"szl", | |
"szy", | |
"ta", | |
"tay", | |
"tcy", | |
"te", | |
"tet", | |
"tg", | |
"th", | |
"ti", | |
"tk", | |
"tl", | |
"tn", | |
"to", | |
"tpi", | |
"tr", | |
"trv", | |
"ts", | |
"tt", | |
"tum", | |
"tw", | |
"ty", | |
"tyv", | |
"udm", | |
"ug", | |
"uk", | |
"ur", | |
"uz", | |
"ve", | |
"vec", | |
"vep", | |
"vi", | |
"vls", | |
"vo", | |
"wa", | |
"war", | |
"wo", | |
"wuu", | |
"xal", | |
"xh", | |
"xmf", | |
"yi", | |
"yo", | |
"za", | |
"zea", | |
"zh", | |
"zh-classical", | |
"zh-min-nan", | |
"zh-yue", | |
"zu", | |
], | |
} | |