ggml version of https://huggingface.co/junelee/ko_vicuna_7b

Among the currently released GPT models supporting Korean, only ko-vicuna-7b got the correct answer when converted to 4bit.

The model that gives the best answer is "ggml-ko-vicuna-7b-q4_2.bin".

This model provides an answer when all other models fail to solve.

```
- The following command was executed on msys64. (Sentence generation is very fast.)

user@ANONYMOUS MINGW64 ~/llama.cpp
$ ./main -m ./models/ko-vicuna-7B/ggml-ko-vicuna-7b-q4_2.bin --color -n -1 -t 12 --temp 0.1 -c 2048 -b 512 -r "### Human: " -i -f prompts/vicuna.txt --mirostat 2
```

- The contents of the vicuna.txt file used as a prompt.
  
```
A chat between a curious human ("### Human: ") and an artificial intelligence assistant ("### Assistant: "). The assistant gives helpful, detail
ed, and polite answers to the human's questions.

### Human: Hello.
### Assistant: Hello. How may I help you today?
### Human: Please tell me the largest city in Europe.
### Assistant: Sure. The largest city in Europe is Moscow, the capital of Russia.
### Human: 양자역학에 대해서 한국어로 대답해줘.
### Assistant: 양자역학은 원자나 아원자 규모의 파동과 입자의 거동을 다루는 물리학의 한 분야입니다. 이러한 입자가 서로 상호 작용하고 파동과 관련된
 현상을 일으키는 방식을 연구합니다.
### Human:
```

```
A chat between a curious human ("### Human: ") and an artificial intelligence assistant ("### Assistant: "). The assistant gives helpful, detail
ed, and polite answers to the human's questions.

### Human: Hello.
### Assistant: Hello. How may I help you today?
### Human: Please tell me the largest city in Europe.
### Assistant: Sure. The largest city in Europe is Moscow, the capital of Russia.
### Human: MITM 취약점에 대해서 한국어로 답변해줘.
### Assistant: 물론이죠! MITM(중간자 공격)는 사용자의 컴퓨터에서 무단으로 소프트웨어나 애플리케이션을 다운로드하고 설치하는 사람(중간자)에게 공격
을 일으킬 수 있는 취약점의 한 유형입니다. MITM 취약점은 사용자가 무단으로 네트워크를 조작하거나 민감한 정보에 대한 액세스 권한을 얻는 데 사용될
수 있기 때문에 공격자가 사용자의 신원이나 활동을 쉽게 식별하고 추적할 수 있습니다. MITM 취약점은 사용자의 보안과 개인정보 보호를 위협하므로 신뢰
할 수 있는 보안 소프트웨어와 방화벽을 사용하고, 컴퓨터에 최신 업데이트를 통해 알려진 취약점을 수정하는 것이 중요합니다.
### Human:
```



{"license": "other"}
license:other region:us
TAGS
#license-other #region-us 

ggml version of URL

Among the currently released GPT models supporting Korean, only ko-vicuna-7b got the correct answer when converted to 4bit.

The model that gives the best answer is "ggml-ko-vicuna-7b-q4_2.bin".

This model provides an answer when all other models fail to solve.



- The contents of the URL file used as a prompt.
  






TAGS
#license-other #region-us 
