Edit model card

Model Card For llm-jp-3-1.8b-instruct-gguf

LLM-jpさんのllm-jp-3-1.8b-instructを量子化したものたちです。 お好きな方法で使ってください。

使い方

  • llama.cpp
  • LM Studio (Win,Mac)
  • LLMFarm (iOS)
    • テンプレート
### 指示:
{{prompt}}

### 応答:
  • etc

作り方

npakaさんのLLM-jp-3 を gguf に変換する手順

Downloads last month
281
GGUF
Model size
1.87B params
Architecture
llama

4-bit

8-bit

16-bit

Inference API
Unable to determine this model's library. Check the docs .

Model tree for alfredplpl/llm-jp-3-1.8b-instruct-gguf

Quantized
(1)
this model