Update README.md
Browse files
README.md
CHANGED
|
@@ -5,8 +5,9 @@ datasets:
|
|
| 5 |
language:
|
| 6 |
- zh
|
| 7 |
pipeline_tag: text-generation
|
|
|
|
| 8 |
---
|
| 9 |
-
2023.10.25
|
| 10 |
|
| 11 |
* 此模型由[atom-7b-chat](https://huggingface.co/FlagAlpha/Atom-7B-Chat)经过lora微调（只训练k_proj、q_proj、v_proj、o_proj、norm）得到，
|
| 12 |
通过线性位置插值，将文本长度从4k扩展到16k，可以完成上万字的多文档检索、论文总结等任务，而短对话能力几乎没有下降。
|
|
|
|
| 5 |
language:
|
| 6 |
- zh
|
| 7 |
pipeline_tag: text-generation
|
| 8 |
+
|
| 9 |
---
|
| 10 |
+
2023.10.25更新：改进版本已经推出，比当前版本强了很多，建议使用新版模型[LongAlpaca-7b-32k-chinese](https://huggingface.co/yuyijiong/LongAlpaca-7b-32k-chinese)
|
| 11 |
|
| 12 |
* 此模型由[atom-7b-chat](https://huggingface.co/FlagAlpha/Atom-7B-Chat)经过lora微调（只训练k_proj、q_proj、v_proj、o_proj、norm）得到，
|
| 13 |
通过线性位置插值，将文本长度从4k扩展到16k，可以完成上万字的多文档检索、论文总结等任务，而短对话能力几乎没有下降。
|