yuyijiong
/

atom-7b-chat-16k

Text Generation

text-generation-inference

Inference Endpoints

4-bit precision

Model card Files Files and versions Community

yuyijiong commited on Oct 20, 2023

Commit

88bb093

•

1 Parent(s): a533dde

Update README.md

Files changed (1) hide show

README.md +1 -1

README.md CHANGED Viewed

@@ -6,7 +6,7 @@ language:
 - zh
 pipeline_tag: text-generation
 ---
-此模型由[atom-7b-chat](https://huggingface.co/FlagAlpha/Atom-7B-Chat)经过lora微调得到，通过线性位置插值，将文本长度从4k扩展到16k，可以完成多文档检索、论文总结等任务。\
 此版本为v1，初步具有长对话能力，但回答错误依然较多，可能是因为微调数据质量低（[yuyijiong/LongData-instruction-chinese](https://huggingface.co/datasets/yuyijiong/LongData-instruction-chinese) 都是谷歌翻译过来的英文数据）。未来将会持续改进，改进版本很快推出。\
 使用方法：
 ```python

 - zh
 pipeline_tag: text-generation
 ---
+此模型由[atom-7b-chat](https://huggingface.co/FlagAlpha/Atom-7B-Chat)经过lora微调（只训练k_proj、q_proj、v_proj、o_proj、norm）得到，通过线性位置插值，将文本长度从4k扩展到16k，可以完成多文档检索、论文总结等任务。\
 此版本为v1，初步具有长对话能力，但回答错误依然较多，可能是因为微调数据质量低（[yuyijiong/LongData-instruction-chinese](https://huggingface.co/datasets/yuyijiong/LongData-instruction-chinese) 都是谷歌翻译过来的英文数据）。未来将会持续改进，改进版本很快推出。\
 使用方法：
 ```python