Update README.md

README.md

@@ -23,7 +23,7 @@ pipeline_tag: question-answering
 
 Ziya-Reader-13B-v1.0是一个知识问答模型给定问题和知识文档可以准确回答问题，用于多文档或单文档问答。该模型具有8k的上下文窗口，相比其他具有更长窗口的模型，我们在多个长文本任务的评测中胜出。包括多文档问答、合成任务（文档检索）长文本摘要。
 
-该模型主要解决多文档问答中当正确信息不在首个或末尾文档中时，回答准确率大幅降低的问题。
+该模型主要面向知识库问答、检索问答、电商客服等场景，在私域知识问答中有着不错的效果，能广泛应用于法律、金融、医疗等垂类领域。因为它解决了多文档问答中当正确信息不在首个或末尾文档中时，回答准确率大幅降低的问题。
 
 另外，模型的通用能力同样出众，可以进行通用问答。它在我们的通用能力评估集上的效果超过了Ziya-Llama-13B-v1.1.
 
@@ -93,7 +93,19 @@ prompt='<human>: 给定问题：交强险过期不上路会不会被罚？\n 检
 不相关，我不知道”。\n<bot>:'
 model_path="IDEA-CCNL/Ziya-Reader-13B-v1.0"
 model = AutoModelForCausalLM.from_pretrained(model_path,torch_dtype=torch.bfloat16).to(device)
-
+tokenizer = AutoTokenizer.from_pretrained(model_path, use_fast=False)
+input_ids = tokenizer(prompt, return_tensors="pt").input_ids.to(device)
+generate_ids = model.generate(
+            input_ids,
+            max_new_tokens=512, 
+            do_sample = True, 
+            top_p = 0.8, 
+            temperature = 0.85, 
+            repetition_penalty=1., 
+            eos_token_id=tokenizer.encode("</s>"), 
+            )
+output = tokenizer.batch_decode(generate_ids)[0]
+print(output)
 '''预测结果：对于问题“交强险过期不上路会不会被罚？”，根据上面的编号为1的信息，我的答案是是的，交强险过期不上路会
 被罚。根据《机动车交通事故责任强制保险条例》，机动车所有人、管理人未按照规定投保机动车交通事故责任强制保险的，由公安机关交通管理部门扣留机
 动车，通知机动车所有人、管理人依照规定投保，处依照规定投保最低责任限额应缴纳的保险费的2倍罚款。因此，交强险过期不上路会被罚，车主需要及时补办机动车交通事故责任强制保险，以避免被罚款。"