PerRing's picture
Update README.md
5061081 verified
metadata
license: llama3
language:
  - en
  - ko
library_name: transformers
pip install --upgrade accelerate fbgemm-gpu torch
from transformers import AutoTokenizer, AutoModelForCausalLM

model_id="PerRing/llama-3-Korean-Bllossom-8B-fp8"
tokenizer = AutoTokenizer.from_pretrained(model_id)
model = AutoModelForCausalLM.from_pretrained(model_id,device_map='auto')
PROMPT = '''You are a helpful AI assistant. Please answer the user's questions kindly. 당신은 유λŠ₯ν•œ AI μ–΄μ‹œμŠ€ν„΄νŠΈ μž…λ‹ˆλ‹€. μ‚¬μš©μžμ˜ μ§ˆλ¬Έμ— λŒ€ν•΄ μΉœμ ˆν•˜κ²Œ λ‹΅λ³€ν•΄μ£Όμ„Έμš”.'''
instruction = "μ„œμšΈμ˜ 유λͺ…ν•œ κ΄€κ΄‘ μ½”μŠ€λ₯Ό λ§Œλ“€μ–΄μ€„λž˜?"

messages = [
    {"role": "system", "content": f"{PROMPT}"},
    {"role": "user", "content": f"{instruction}"}
    ]

input_ids = tokenizer.apply_chat_template(
    messages,
    add_generation_prompt=True,
    return_tensors="pt"
).to(model.device)

terminators = [
    tokenizer.convert_tokens_to_ids("<|end_of_text|>"),
    tokenizer.convert_tokens_to_ids("<|eot_id|>")
]

outputs = model.generate(
    input_ids,
    max_new_tokens=2048,
    eos_token_id=terminators,
    do_sample=True,
    temperature=0.6,
    top_p=0.9
)

print(tokenizer.decode(outputs[0][input_ids.shape[-1]:]))
λ¬Όλ‘ μž…λ‹ˆλ‹€! μ„œμšΈμ€ λ‹€μ–‘ν•œ 문화와 역사, 그리고 ν˜„λŒ€μ μΈ 맀λ ₯을 κ²ΈλΉ„ν•œ λ„μ‹œλ‘œ, λ§Žμ€ κ΄€κ΄‘ λͺ…μ†Œλ₯Ό μžλž‘ν•©λ‹ˆλ‹€. μ•„λž˜λŠ” μ„œμšΈμ˜ 유λͺ…ν•œ κ΄€κ΄‘ μ½”μŠ€μž…λ‹ˆλ‹€:

### μ½”μŠ€ 1: 역사와 λ¬Έν™”μ˜ 거리

1. **경볡ꢁ**
   - μ„œμšΈμ˜ λŒ€ν‘œμ μΈ ꢁꢐ둜, μ‘°μ„  μ™•μ‘°μ˜ μ€‘μ‹¬μ§€μ˜€μŠ΅λ‹ˆλ‹€. 경볡ꢁ λ‚΄μ—λŠ” 왕ꢁ, 정원, 그리고 λ‹€μ–‘ν•œ μ „μ‹œκ°€ μžˆμŠ΅λ‹ˆλ‹€.

2. **뢁촌 ν•œμ˜₯λ§ˆμ„**
   - 전톡 ν•œμ˜₯이 잘 보쑴된 λ§ˆμ„λ‘œ, μ„œμšΈμ˜ 전톡적인 μƒν™œμƒμ„ μ²΄ν—˜ν•  수 μžˆμŠ΅λ‹ˆλ‹€. 전톡 ν•œμ˜₯을 λ°©λ¬Έν•˜μ—¬ ν•œμ˜₯의 ꡬ쑰와 μƒν™œ 방식을 배울 수 μžˆμŠ΅λ‹ˆλ‹€.

3. **인사동**
   - 전톡 문화와 ν˜„λŒ€ 예술이 μ‘°ν™”λ₯Ό μ΄λ£¨λŠ” κ±°λ¦¬μž…λ‹ˆλ‹€. 전톡 μˆ˜κ³΅μ˜ˆν’ˆ κ°€κ²Œ, λ―Έμˆ κ΄€, 그리고 전톡 μŒμ‹μ μ΄ λ§ŽμŠ΅λ‹ˆλ‹€.

4. **λΆˆκ΅­μ‚¬**
   - 경볡ꢁ 인근에 μœ„μΉ˜ν•œ λΆˆκ΅­μ‚¬μ—λŠ” 뢈ꡐ κ΄€λ ¨ μ „μ‹œμ™€ ν•¨κ»˜ 뢈ꡐ κΈ°λ…ν’ˆμ„ κ΅¬μž…ν•  수 μžˆλŠ” 곳이 μžˆμŠ΅λ‹ˆλ‹€.

### μ½”μŠ€ 2: ν˜„λŒ€μ™€ μžμ—°μ˜ μ‘°ν™”

1. **남산 μ„œμšΈνƒ€μ›Œ**
   - 남산 정상에 μœ„μΉ˜ν•œ μ„œμšΈνƒ€μ›Œμ—μ„œ μ„œμšΈμ˜ 전경을 감상할 수 μžˆμŠ΅λ‹ˆλ‹€. νƒ€μ›Œ λ‚΄μ—λŠ” μ „λ§λŒ€μ™€ 식당, 그리고 λ‹€μ–‘ν•œ μ „μ‹œκ°€ μžˆμŠ΅λ‹ˆλ‹€.

2. **남산 힐링둜**
   - 남산 μ •μƒκΉŒμ§€ 였λ₯΄κΈ° 전에 남산 힐링둜λ₯Ό 걸으며 μ„œμšΈμ˜ μ•„λ¦„λ‹€μš΄ 경치λ₯Ό 즐길 수 μžˆμŠ΅λ‹ˆλ‹€.

3. **ν•œκ°•κ³΅μ›**
   - μ„œμšΈμ˜ 쀑심에 μœ„μΉ˜ν•œ ν•œκ°•κ³΅μ›μ—μ„œλŠ” 보트 타기, μžμ „κ±° 타기, 그리고 산책을 즐길 수 μžˆμŠ΅λ‹ˆλ‹€. λ˜ν•œ, λ‹€μ–‘ν•œ 곡연과 행사가 μ—΄λ¦½λ‹ˆλ‹€.

4. **λ™λŒ€λ¬Έ λ””μžμΈ ν”ŒλΌμž (DDP)**
   - ν˜„λŒ€μ μΈ κ±΄μΆ•λ¬Όλ‘œ 유λͺ…ν•œ DDPλŠ” μ „μ‹œμ™€ 쇼핑을 즐길 수 μžˆλŠ” κ³³μž…λ‹ˆλ‹€. λ‹€μ–‘ν•œ λ””μžμ΄λ„ˆμ™€ λΈŒλžœλ“œμ˜ μ œν’ˆμ„ μ²΄ν—˜ν•  수 μžˆμŠ΅λ‹ˆλ‹€.

### μ½”μŠ€ 3: μ‡Όν•‘κ³Ό μ—”ν„°ν…ŒμΈλ¨ΌνŠΈ

1. **λͺ…동**
   - μ„œμšΈμ˜ λŒ€ν‘œμ μΈ μ‡Όν•‘ 거리둜, λ‹€μ–‘ν•œ λΈŒλžœλ“œμ™€ 전톡 κ°€κ²Œκ°€ λͺ¨μ—¬ μžˆμŠ΅λ‹ˆλ‹€. λͺ…λ™μ—λŠ” λ‹€μ–‘ν•œ μŒμ‹μ κ³Ό μΉ΄νŽ˜λ„ μžˆμŠ΅λ‹ˆλ‹€.

2. **μ—¬μ˜λ„**
   - ꡭ제적인 κΈ°μ—…κ³Ό μ •λΆ€ 기관이 λͺ¨μ—¬ μžˆλŠ” μ—¬μ˜λ„λŠ” λ˜ν•œ μ‡Όν•‘κ³Ό λ ˆμŠ€ν† λž‘μ΄ ν’λΆ€ν•©λ‹ˆλ‹€. μ—¬μ˜λ„ 곡원도 λ°©λ¬Έν•΄ λ³΄μ„Έμš”.

3. **ν™λŒ€**
   - 젊음의 거리둜 유λͺ…ν•œ ν™λŒ€λŠ” λ‹€μ–‘ν•œ 클럽과 카페, 그리고 전톡 μŒμ‹μ μ΄ μžˆμŠ΅λ‹ˆλ‹€. 밀에 ν™œκΈ°κ°€ λ„˜μΉ˜λŠ” κ³³μž…λ‹ˆλ‹€.

4. **μ΄νƒœμ›**
   - λ‹€μ–‘ν•œ 외ꡭ인듀이 λͺ¨μ΄λŠ” μ΄νƒœμ›μ€ μ™Έκ΅­ μŒμ‹κ³Ό 컀피 κ°€κ²Œκ°€ λ§ŽμŠ΅λ‹ˆλ‹€. λ˜ν•œ, λ‹€μ–‘ν•œ μ†Œν’ˆ κ°€κ²Œμ™€ 전톡 κ°€κ²Œλ„ μžˆμŠ΅λ‹ˆλ‹€.

이 μ½”μŠ€λŠ” μ„œμšΈμ˜ λ‹€μ–‘ν•œ λ©΄λͺ¨λ₯Ό μ²΄ν—˜ν•  수 μžˆλŠ” κΈΈμž‘μ΄μž…λ‹ˆλ‹€. 각 μ½”μŠ€λ§ˆλ‹€ μ„œμšΈμ˜ 역사, λ¬Έν™”, μžμ—°, μ‡Όν•‘, 그리고 μ—”ν„°ν…ŒμΈλ¨ΌνŠΈλ₯Ό 즐길 수 μžˆμŠ΅λ‹ˆλ‹€. μ„œμšΈμ— λ°©λ¬Έν•˜μ‹œλ©΄ κΌ­ μ²΄ν—˜ν•΄ λ³΄μ„Έμš”!<|eot_id|>