日本語タグ
#1
by
tomgm
- opened
量子化ありがとうございます。
このモデルは日本語tune版ですので、日本語タグをつけた方が目につきやすいと思います。
あと、できればQ5_K_Mもアップしていただければ嬉しいです
アドバイスありがとうございます。
そうですね、今まではあまりタグまでは意識していませんでしたが、せっかくなのでこれからは日本語FTモデルにはjpタグをつけてみようと思います。
私のほうでQ5を作成することも可能ではありますが、手元から元の重みを消してしまったので少々時間がかかってしまいます。
お急ぎの場合はBF16版とimatrixをダウンロードし、ご自身で作成されることをお勧めします。
.\llama-quantize.exe --imatrix imatrix.dat "EZO-Qwen2.5-72b-instruct-BF16.gguf" Q5_K_M