vocab exp

README.md

@@ -14,8 +14,22 @@ base_model:
 
 # Bllossom | [Demo]() | [Homepage](https://www.bllossom.ai/) | [Github](https://github.com/MLP-Lab/Bllossom) | [Colab-tutorial](https://colab.research.google.com/drive/1fBOzUVZ6NRKk_ugeoTbAOokWKqSN47IG?usp=sharing) |
 
-[Latest Update] 
-- 2024.05.08 Vocab Expansion model update
+
+```bash
+저희 서울과기대 MLP연구실에서 한국어-영어 이중 언어모델인 Bllossom을 공개했습니다! 서울과기대 슈퍼컴퓨팅 센터의 지원으로 100GB가넘는 한국어 추가학습을 진행한 한국어 강화 이중언어 모델입니다!
+한국어 잘하는 모델 찾고 있지 않으셨나요?
+ - 무려 3만개가 넘는 한국어 어휘확장
+ - Llama3대비 대략 25% 더 긴 길이의 한국어 Context 처리가능
+ - 한국어-영어 Pararell Corpus를 활용한 한국어-영어 지식연결 (사전학습)
+ - 한국어 문화, 언어를 고려해 언어학자가 제작한 데이터를 활용한 미세조정
+ - 강화학습
+이 모든게 한꺼번에 적용되고 상업적 이용이 가능한 Bllossom을 이용해 여러분 만의 모델을 만들어보세욥! 무려 Colab 무료 GPU로 학습이 가능합니다.
+
+1. Bllossom-8B는 서울과기대, 테디썸, 연세대 언어자원 연구실의 언어학자와 협업해 만든 실용주의기반 언어모델입니다! 앞으로 지속적인 업데이트를 통해 관리하겠습니다 많이 활용해주세요 🙂
+2. 초 강력한 Advanced-Bllossom 8B, 70B모델, 시각-언어모델을 보유하고 있습니다! (궁금하신분은 개별 연락주세요!!)
+3. Bllossom은 NAACL2024, LREC-COLING2024 (구두) 발표로 채택되었습니다.
+4. 좋은 언어모델 계속 업데이트 하겠습니다!! 한국어 강화를위해 공동 연구하실분(특히논문) 언제든 환영합니다!! 특히 소량의 GPU라도 대여 가능한팀은 언제든 연락주세요! 만들고 싶은거 도와드려요.
+```
 
 The Bllossom language model is a Korean-English bilingual language model based on the open-source LLama3. It enhances the connection of knowledge between Korean and English. It has the following features:
 
@@ -50,28 +64,13 @@ The Bllossom language model is a Korean-English bilingual language model based o
 
 
 ## NEWS
-* [2024/04] We released Bllossom v2.0, based on llama-3
+* [2024.05.08] Vocab Expansion Model Update
+* [2024.04.25] We released Bllossom v2.0, based on llama-3
 * [2023/12] We released Bllossom-Vision v1.0, based on Bllossom
 * [2023/08] We released Bllossom v1.0, based on llama-2. 
 * [2023/07] We released Bllossom v0.7, based on polyglot-ko.
 
 
-```bash
-저희 서울과기대 MLP연구실에서 한국어-영어 이중 언어모델인 Bllossom을 공개했습니다!
- - LLama3-8B 기반의 경량화된 사이즈 
- - 한국어-영어 지식연결을 통한 한국어 지식 강화
- - 한국어 어휘추가
- - 한국어 문화, 언어를 고려한 자체제작 데이터 기반 미세조정
- - 강화학습 (DPO)
- - 시각-언어 모델확장
-
-1. Bllossom은 서울과기대, 테디썸, 연세대 언어자원 연구실의 언어학자와 협업해 만든 실용주의기반 언어모델입니다! 앞으로 지속적인 업데이트를 통해 관리하겠습니다 많이 활용해주세요 🙂
-2. Bllossom70B모델, 어휘확장모델, 시각-언어모델은 추후 공개할 예정입니다. (궁금하신분은 개별 연락주세요, GPU만 지원해주시면 무료로 드립니다!)
-3. Bllossom은 NAACL2024, LREC-COLING2024 (구두) 발표로 채택되었습니다.
-4. 좋은 언어모델 계속 업데이트 하겠습니다!! 한국어 강화를위해 공동 연구하실분 언제든 환영합니다!!
-```
-
-
 ## Example code
 
 ### Colab Tutorial
@@ -87,7 +86,7 @@ pip install torch transformers==4.40.0 accelerate
 import transformers
 import torch
 
-model_id = "MLP-KTLim/llama3-Bllossom"
+model_id = "MLP-KTLim/llama-3-Korean-Bllossom-8B"
 
 pipeline = transformers.pipeline(
     "text-generation",
@@ -140,7 +139,7 @@ import os
 import torch
 from transformers import AutoTokenizer, AutoModelForCausalLM
 
-model_id = 'MLP-KTLim/llama3-Bllossom'
+model_id = 'MLP-KTLim/llama-3-Korean-Bllossom-8B'
 
 tokenizer = AutoTokenizer.from_pretrained(model_id)
 model = AutoModelForCausalLM.from_pretrained(