---
base_model: unsloth/qwen2.5-7b
language:
- en
- ko
license: apache-2.0
tags:
- text-generation-inference
- transformers
- unsloth
- qwen2
- trl
- krx
---

# Usage:

Sejong-Qwen-v4_inference.ipynb: [![Open In Colab](https://colab.research.google.com/assets/colab-badge.svg)](https://colab.research.google.com/drive/1ZPKpQntzEAfVdWABDV_OfHDqriQ5HBF-?usp=sharing)


``` python
!pip install transformers einops accelerate
!pip install qwen
!pip install unsloth

from transformers import AutoTokenizer, AutoModelForCausalLM

# 토크나이저와 모델 로드
tokenizer = AutoTokenizer.from_pretrained(
    "SejongKRX/Sejong-Qwen-4",
    trust_remote_code=True,
    use_fast=False
)
model = AutoModelForCausalLM.from_pretrained(
    "SejongKRX/Sejong-Qwen-4",
    trust_remote_code=True
)

# 입력 텍스트
input_text =  """
다음 중 화폐의 시간가치에 관한 설명으로 옳지 않은 것은 무엇인가?

A. 월 복리의 경우, 매월 적용되는 이자율은 연간 명목 이자율을 1/12로 나누어 산출한다.
B. 투자 원금 및 기타 조건이 동일할 경우, 단리 방식보다 복리 방식에서 발생하는 이자가 더 크다.
C. 일시불로 지급될 금액의 현재 가치는 미래 가치를 일정 기간 동안 할인율을 적용해 산출할 수 있다.
D. 1,000,000원을 연 5% 복리로 2년 동안 예치했을 경우, 만기에 받을 세전 이자는 100,000원이다.

### 정답:
"""

inputs = tokenizer(input_text, return_tensors="pt")

# 모델을 사용하여 텍스트 생성
output = model.generate(**inputs, max_new_tokens=1500)

# 결과 디코딩
generated_text = tokenizer.decode(output[0], skip_special_tokens=True)
print(generated_text)
```

output:
```
다음 중 화폐의 시간가치에 관한 설명으로 옳지 않은 것은 무엇인가?

A. 월 복리의 경우, 매월 적용되는 이자율은 연간 명목 이자율을 1/12로 나누어 산출한다.
B. 투자 원금 및 기타 조건이 동일할 경우, 단리 방식보다 복리 방식에서 발생하는 이자가 더 크다.
C. 일시불로 지급될 금액의 현재 가치는 미래 가치를 일정 기간 동안 할인율을 적용해 산출할 수 있다.
D. 1,000,000원을 연 5% 복리로 2년 동안 예치했을 경우, 만기에 받을 세전 이자는 100,000원이다.

### 정답:
D
```


# Dataset

본 모델은 다양한 출처의 데이터(mlabonne/open-perfectblend, Wikipedia, 한국은행의 공공 데이터 등)를 활용하여 학습되었으며, 모든 데이터는 저작권 및 사용 정책에 따라 적절히 사용되었습니다. 

- Wikipedia 데이터는 CC BY-SA 4.0 라이선스를 따릅니다. 자세한 정보는 [여기](https://creativecommons.org/licenses/by-sa/4.0/)에서 확인할 수 있습니다.
- 한국은행의 데이터는 한국은행의 [저작권 보호방침](https://www.bok.or.kr)에 따라 사용되었습니다.
- [mlabonne/open-perfectblend](https://huggingface.co/datasets/mlabonne/open-perfectblend) 데이터는 Apache 2.0 라이선스를 따릅니다. 라이선스에 대한 자세한 내용은 [Apache 2.0 라이선스](https://www.apache.org/licenses/LICENSE-2.0)에서 확인할 수 있습니다.

# Uploaded  model

- **Developed by:** SejongKRX
- **License:** apache-2.0
- **Finetuned from model :** unsloth/qwen2.5-7b

This qwen2 model was trained 2x faster with [Unsloth](https://github.com/unslothai/unsloth) and Huggingface's TRL library.

[<img src="https://raw.githubusercontent.com/unslothai/unsloth/main/images/unsloth%20made%20with%20love.png" width="200"/>](https://github.com/unslothai/unsloth)