PereLluis13's picture
Upload tokenizer
373cf04 verified
{
"add_prefix_space": true,
"additional_special_tokens": [
"--NME--",
"[E-0]",
"[E-1]",
"[E-2]",
"[E-3]",
"[E-4]",
"[E-5]",
"[E-6]",
"[E-7]",
"[E-8]",
"[E-9]",
"[E-10]",
"[E-11]",
"[E-12]",
"[E-13]",
"[E-14]",
"[E-15]",
"[E-16]",
"[E-17]",
"[E-18]",
"[E-19]",
"[E-20]",
"[E-21]",
"[E-22]",
"[E-23]",
"[E-24]",
"[E-25]",
"[E-26]",
"[E-27]",
"[E-28]",
"[E-29]",
"[E-30]",
"[E-31]",
"[E-32]",
"[E-33]",
"[E-34]",
"[E-35]",
"[E-36]",
"[E-37]",
"[E-38]",
"[E-39]",
"[E-40]",
"[E-41]",
"[E-42]",
"[E-43]",
"[E-44]",
"[E-45]",
"[E-46]",
"[E-47]",
"[E-48]",
"[E-49]",
"[E-50]",
"[E-51]",
"[E-52]",
"[E-53]",
"[E-54]",
"[E-55]",
"[E-56]",
"[E-57]",
"[E-58]",
"[E-59]",
"[E-60]",
"[E-61]",
"[E-62]",
"[E-63]",
"[E-64]",
"[E-65]",
"[E-66]",
"[E-67]",
"[E-68]",
"[E-69]",
"[E-70]",
"[E-71]",
"[E-72]",
"[E-73]",
"[E-74]",
"[E-75]",
"[E-76]",
"[E-77]",
"[E-78]",
"[E-79]",
"[E-80]",
"[E-81]",
"[E-82]",
"[E-83]",
"[E-84]",
"[E-85]",
"[E-86]",
"[E-87]",
"[E-88]",
"[E-89]",
"[E-90]",
"[E-91]",
"[E-92]",
"[E-93]",
"[E-94]",
"[E-95]",
"[E-96]",
"[E-97]",
"[E-98]",
"[E-99]"
],
"bos_token": "[CLS]",
"clean_up_tokenization_spaces": true,
"cls_token": "[CLS]",
"do_lower_case": false,
"eos_token": "[SEP]",
"mask_token": "[MASK]",
"model_max_length": 1000000000000000019884624838656,
"pad_token": "[PAD]",
"sep_token": "[SEP]",
"sp_model_kwargs": {},
"split_by_punct": false,
"tokenizer_class": "DebertaV2Tokenizer",
"unk_token": "[UNK]",
"vocab_type": "spm"
}