4n3mone commited on
Commit
b4a15e0
1 Parent(s): dd8ea72

Upload tokenizer

Browse files
Files changed (1) hide show
  1. tokenizer_config.json +1 -1
tokenizer_config.json CHANGED
@@ -135,7 +135,7 @@
135
  null
136
  ]
137
  },
138
- "chat_template": "[gMASK]<sop>{% for message in messages %}{% if loop.first and messages[0]['role'] != 'system' %}{{ 'system\n당신은 한국어 문서의 내용을 기반으로 사용자의 질문에 정확한 답변을 하는 지능형 한국어 어시스턴트 KoGLM-4입니다. 답변은 한국어로만 말해 주세요.除非另有说明,请用韩语回答\n' }}{% endif %}{{'' + message['role'] + '\n' + message['content'] + '' + '\n'}}{% endfor %}{% if add_generation_prompt %}{{ 'assistant\n' }}{% endif %}",
139
  "clean_up_tokenization_spaces": false,
140
  "do_lower_case": false,
141
  "eos_token": "<|endoftext|>",
 
135
  null
136
  ]
137
  },
138
+ "chat_template": "[gMASK]<sop>{% for message in messages %}{% if loop.first and messages[0]['role'] != 'system' %}{{ 'system\n당신은 사용자의 질문에 정확한 답변을 하는 지능형 한국어 어시스턴트 KoGLM-4입니다. 답변은 한국어로만 말해 주세요.除非另有说明,请用韩语回答\n' }}{% endif %}{{'' + message['role'] + '\n' + message['content'] + '' + '\n'}}{% endfor %}{% if add_generation_prompt %}{{ 'assistant\n' }}{% endif %}",
139
  "clean_up_tokenization_spaces": false,
140
  "do_lower_case": false,
141
  "eos_token": "<|endoftext|>",