Update README.md
Browse files
README.md
CHANGED
|
@@ -111,6 +111,16 @@ output = tokenizer.batch_decode(generate_ids)[0]
|
|
| 111 |
print(output)
|
| 112 |
```
|
| 113 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 114 |
## 引用 Citation
|
| 115 |
|
| 116 |
如果您在您的工作中使用了我们的模型，可以引用我们的[论文](https://arxiv.org/abs/2210.08590)：
|
|
|
|
| 111 |
print(output)
|
| 112 |
```
|
| 113 |
|
| 114 |
+
## 量化 Quantization
|
| 115 |
+
|
| 116 |
+
感谢社区优秀的工作，您可以使用社区开发者为Ziya-Coding-34B-v1.0训练的量化版本。
|
| 117 |
+
|
| 118 |
+
Thanks to the excellent work of the community, you can use the quantized version trained by community developers for Ziya-Coding-34B-v1.0.
|
| 119 |
+
|
| 120 |
+
- [GPTQ](https://huggingface.co/TheBloke/Ziya-Coding-34B-v1.0-GPTQ)
|
| 121 |
+
- [AWQ](https://huggingface.co/TheBloke/Ziya-Coding-34B-v1.0-AWQ)
|
| 122 |
+
- [GGUF](https://huggingface.co/TheBloke/Ziya-Coding-34B-v1.0-GGUF)
|
| 123 |
+
|
| 124 |
## 引用 Citation
|
| 125 |
|
| 126 |
如果您在您的工作中使用了我们的模型，可以引用我们的[论文](https://arxiv.org/abs/2210.08590)：
|