mmnga
/

ELYZA-japanese-Llama-2-7b-instruct-gguf

Inference Endpoints

Model card Files Files and versions Community

mmnga commited on Aug 29, 2023

Commit

5123d58

•

1 Parent(s): 3bdc4a7

Update README.md

Files changed (1) hide show

README.md +1 -1

README.md CHANGED Viewed

@@ -14,5 +14,5 @@ tags:
 git clone https://github.com/ggerganov/llama.cpp.git
 cd llama.cpp
 make -j
-./main -m 'ELYZA-japanese-Llama-2-7b-instruct-q4_0.gguf' -n 256 -t 8 -p '[INST] <<SYS>>あなたは誠実で優秀な日本人のアシスタントです。<</SYS>>クマが海辺に行ってアザラシと友達になり、最終的には家に帰るというプロットの短編小説を書いてください。 [/INST]'
 ```

 git clone https://github.com/ggerganov/llama.cpp.git
 cd llama.cpp
 make -j
+./main -m 'ELYZA-japanese-Llama-2-7b-instruct-q4_0.gguf' -n 256 -p '[INST] <<SYS>>あなたは誠実で優秀な日本人のアシスタントです。<</SYS>>クマが海辺に行ってアザラシと友達になり、最終的には家に帰るというプロットの短編小説を書いてください。 [/INST]'
 ```