Polyglot-ko-1.3b-lite

[AI] 가벼운 한국어 언어 모델

Polyglot-ko-1.3b-lite

[AI] 가벼운 한국어 언어 모델

- 개발기간
  > 2024.03 ~ 2024.04
- 개발언어
  > Python/Cuda
- 개발툴
  > vscode
- 운영시스템
  > Windows(WSL)
- 데이터관리
  > File

Windows 환경에서 LLM에 대한, 개인 학습용으로 제작하며, 개발 환경 구축부터 언어 모델의 미세조정(QLoRA)까지, 상세하게 정리하여 소스 코드를 공개하였습니다.

여기에서는 정보의 중복 습득을 피하기 위해, 산출물의 주소만 링크하겠습니다.

- 본 프로젝트의 소스 코드는 GitHub에 공개되어 있습니다.
- 본 프로젝트로 제작된 미세조정 모델은 Huggingface에 올려져 있습니다.
- 미세조정된 모델에 대한, 상세한 설명은 Model Card를 확인하세요.
- 기반 모델에서 직접 미세조정 하기를 원하신다면, HuggingFace로부터 다운로드 받으시면 됩니다.