update readme

README.md

@@ -1,5 +1,95 @@
 ---
 license: apache-2.0
+inference:
+  parameters:
+    max_length: 250
+    temperature: 0.7
+    top_p: 1
+widget:
+- text: 病人：我感觉自己好像发烧了，怎么办？\n医生：
+- text: 病人：我最近感觉全身疲惫。\n医生：
+language:
+- en
+- zh
 ---
 
-BianQue-1.0是一个经过指令与多轮问询对话联合微调的医疗对话大模型
+## 简介
+
+
+**扁鹊-1.0（BianQue-1.0）**是一个经过指令与多轮问询对话联合微调的医疗对话大模型。我们经过调研发现，在医疗领域，往往医生需要通过多轮问询才能进行决策，这并不是单纯的“指令-回复”模式。用户在咨询医生时，往往不会在最初就把完整的情况告知医生，因此医生需要不断进行询问，最后才能进行诊断并给出合理的建议。基于此，我们构建了**扁鹊-1.0（BianQue-1.0）**，拟在**强化AI系统的问询能力**，从而达到模拟医生问诊的过程。我们把这种能力定义为“望闻问切”当中的“问”。
+
+以下是一个简单的例子：
+
+* 例子1    
+用户：我最近感觉全身疲惫   
+扁鹊-1.0：是劳累了，还是熬夜了？    
+用户：这周都在熬夜赶论文    
+扁鹊-1.0：嗯，熬夜容易引起各种不适，如头晕、乏力、失眠、多梦等，多休息，可以口服谷维素、维生素B1和安神补脑液，避免熬夜。    
+
+* 例子2   
+用户：我最近经常失眠    
+扁鹊-1.0：失眠多久了？    
+用户：两周了    
+扁鹊-1.0：睡眠怎么样？    
+用户：上床几小时才睡得着    
+扁鹊-1.0：可以口服一些药物   
+用户：有具体推荐吗   
+扁鹊-1.0：需要先检查一下   
+用户：那我需要做什么检查？   
+扁鹊-1.0：心电图   
+
+
+## 使用方法
+
+
+
+```python
+import os
+from transformers import T5Tokenizer, T5ForConditionalGeneration, AutoTokenizer
+import torch
+device = torch.device("cuda" if torch.cuda.is_available() else "cpu")
+
+
+tokenizer = T5Tokenizer.from_pretrained("scutcyr/BianQue-1.0")
+model = T5ForConditionalGeneration.from_pretrained("scutcyr/BianQue-1.0")
+
+
+def preprocess(text):
+    text = text.replace("\n", "\\n").replace("\t", "\\t")
+    return text
+
+def postprocess(text):
+    return text.replace("\\n", "\n").replace("\\t", "\t")
+
+def answer(user_history, bot_history, sample=True, top_p=1, temperature=0.7):
+    '''sample：是否抽样。生成任务，可以设置为True;
+    top_p：0-1之间，生成的内容越多样
+    max_new_tokens=512 lost...'''
+
+    if len(bot_history)>0:
+        context = "\n".join([f"病人：{user_history[i]}\n医生：{bot_history[i]}" for i in range(len(bot_history))])
+        input_text = context + "\n病人：" + user_history[-1] + "\n医生："
+    else:
+        input_text = "病人：" + user_history[-1] + "\n医生："
+        return "我是利用人工智能技术，结合大数据训练得到的智能医疗问答模型扁鹊，你可以向我提问。"
+    
+
+    input_text = preprocess(input_text)
+    print(input_text)
+    encoding = tokenizer(text=input_text, truncation=True, padding=True, max_length=768, return_tensors="pt").to(device) 
+    if not sample:
+        out = model.generate(**encoding, return_dict_in_generate=True, output_scores=False, max_new_tokens=512, num_beams=1, length_penalty=0.6)
+    else:
+        out = model.generate(**encoding, return_dict_in_generate=True, output_scores=False, max_new_tokens=512, do_sample=True, top_p=top_p, temperature=temperature, no_repeat_ngram_size=3)
+    out_text = tokenizer.batch_decode(out["sequences"], skip_special_tokens=True)
+    print('医生: '+postprocess(out_text[0]))
+    return postprocess(out_text[0])
+
+answer_text = answer(user_history=["你好！",
+                                   "我最近经常失眠",
+                                   "两周了",
+                                   "上床几小时才睡得着"], 
+                     bot_history=["我是利用人工智能技术，结合大数据训练得到的智能医疗问答模型扁鹊，你可以向我提问。",
+                                  "失眠多久了？",
+                                  "睡眠怎么样？"])
+```