daekeun-ml

/

Llama-2-ko-OpenOrca-gugugo-13B

like 0

언어모델에 관심을 가지고 있는 초급 개발자입니다.
얼마 전 llama2 구글링하다 알게 되었습니다.
llama2 모델 다운로드를 하고 가중치까지 다운로드 했습니다.
하지만 가중치를 사용해서 어떻게 llama2에 적용하는지 이해가 잘 되지 않습니다.
간단하게 설명해주실 수 있을까요.
제가 궁금한 내용은

1. 모델을 다운했지만 가중치를 업로드해서 어떻게 llama2를 실행하는지 모름, pytorch로 업로드해서 사용하면 되나요?
   -> 만약 맞다면 메모리 오류가 발생하는데, 배치 사이즈나 이런것들을 줄여도 계속 똑같은 이슈가 발생해서 보통 이러한 문제를 해결하기 위해서는 어떻게 해결하는게 좋을지 궁금합니다.
2. 학습 데이터셋을 학습하기 위해서 학습 데이터셋을 코-알파카 처럼 구성을 똑같이 해서 전이학습을 진행해야 하는지 궁금합니다.