GGUF
English
Japanese
Inference Endpoints
mmnga commited on
Commit
f32e07a
1 Parent(s): 0567ea3

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +4 -2
README.md CHANGED
@@ -14,15 +14,17 @@ datasets:
14
  imatrixのデータは[TFMC/imatrix-dataset-for-japanese-llm](https://huggingface.co/datasets/TFMC/imatrix-dataset-for-japanese-llm)を使用して作成しました。
15
 
16
  # 他のモデル
 
 
17
  [mmnga/Ninja-v1-128k-gguf](https://huggingface.co/mmnga/Ninja-v1-128k-gguf)
18
  [mmnga/Ninja-v1-NSFW-128k-gguf](https://huggingface.co/mmnga/Ninja-v1-NSFW-128k-gguf)
19
  [mmnga/Vecteus-v1-gguf](https://huggingface.co/mmnga/Vecteus-v1-gguf)
20
-
21
  ## Usage
22
 
23
  ```
24
  git clone https://github.com/ggerganov/llama.cpp.git
25
  cd llama.cpp
26
  make -j
27
- ./main -m 'Ninja-v1-NSFW-128k-Q4_0.gguf' -n 1024 -c 1024 -p 'USER: こんにちわ。 ASSISTANT: '
28
  ```
 
14
  imatrixのデータは[TFMC/imatrix-dataset-for-japanese-llm](https://huggingface.co/datasets/TFMC/imatrix-dataset-for-japanese-llm)を使用して作成しました。
15
 
16
  # 他のモデル
17
+ [mmnga/Ninja-v1-gguf](https://huggingface.co/mmnga/Ninja-v1-gguf)
18
+ [mmnga/Ninja-v1-NSFW-gguf](https://huggingface.co/mmnga/Ninja-v1-NSFW-gguf)
19
  [mmnga/Ninja-v1-128k-gguf](https://huggingface.co/mmnga/Ninja-v1-128k-gguf)
20
  [mmnga/Ninja-v1-NSFW-128k-gguf](https://huggingface.co/mmnga/Ninja-v1-NSFW-128k-gguf)
21
  [mmnga/Vecteus-v1-gguf](https://huggingface.co/mmnga/Vecteus-v1-gguf)
22
+
23
  ## Usage
24
 
25
  ```
26
  git clone https://github.com/ggerganov/llama.cpp.git
27
  cd llama.cpp
28
  make -j
29
+ ./main -m 'Ninja-v1-NSFW-128k-Q4_0.gguf' -n 1024 -c 1024 -p 'あなたはプロの小説家です。\n小説を書いてください\n-------- \nくじらの物語\n-------- \n'
30
  ```