alfredplpl
/

llm-jp-3-1.8b-instruct-gguf

Inference Endpoints

Model card Files Files and versions Community

Edit model card

Model Card For llm-jp-3-1.8b-instruct-gguf

LLM-jpさんのllm-jp-3-1.8b-instructを量子化したものたちです。お好きな方法で使ってください。

使い方

llama.cpp
LM Studio (Win,Mac)
LLMFarm (iOS)
- テンプレート

### 指示:
{{prompt}}

### 応答:

etc

作り方

npakaさんのLLM-jp-3 を gguf に変換する手順

Downloads last month: 1,475

GGUF

Model size

1.87B params

Architecture

llama

4-bit

8-bit

16-bit

Inference API

Unable to determine this model's library. Check the docs .

Model tree for alfredplpl/llm-jp-3-1.8b-instruct-gguf

Base model

llm-jp/llm-jp-3-1.8b-instruct

Quantized

(1)

this model

Dataset used to train alfredplpl/llm-jp-3-1.8b-instruct-gguf