Views
No views yet
LFM2-1.2B 아키텍처를 기반으로 한국어-영어 번역 성능을 극대화하기 위해 100,000개의 고품질 병렬 데이터셋으로 파인튜닝된 모델입니다.Q4_K_M 또는 Q5_K_M)| 파일명 (예시) | 양자화 (Quant) | 크기 (Size) | 설명 (Description) |
|---|---|---|---|
lfm2-1.2b-koen-mt-v4-100k-f16.gguf | F16 | ~2.34 GB | 원본 성능 유지, 용량 큼 |
lfm2-1.2b-koen-mt-v4-100k-q8_0.gguf | Q8_0 | ~1.25 GB | 품질 손실 거의 없음 |
lfm2-1.2b-koen-mt-v4-100k-q6_k.gguf | Q6_K | ~963 MB | 높은 품질, 균형 잡힌 성능 |
lfm2-1.2b-koen-mt-v4-100k-q5_k_m.gguf | Q5_K_M | ~843 MB | 추천: 품질과 속도/용량의 최적 균형 |
lfm2-1.2b-koen-mt-v4-100k-q4_k_m.gguf | Q4_K_M | ~731 MB | 추천: 적은 메모리 소모, 준수한 성능 |
lfm2-1.2b-koen-mt-v4-100k-q4_0.gguf | Q4_0 | ~696 MB | 가장 가벼움, 일부 품질 저하 가능성 |
llama.cpp를 사용하여 실행할 수 있습니다. (LFM 아키텍처 지원 여부를 확인하세요)1./llama-cli -m lfm2-1.2b-koen-mt-v4-100k-q5_k_m.gguf \
2 -p "Translate to Korean: The model is working correctly now." \
3 -n 2561from llama_cpp import Llama
2
3llm = Llama(
4 model_path="./lfm2-1.2b-koen-mt-v4-100k-q5_k_m.gguf",
5 n_ctx=2048,
6 verbose=False
7)
8
9prompt = "Translate to Korean: The model is working correctly now."
10output = llm(
11 f"User: {prompt}\nAssistant:",
12 max_tokens=256,
13 stop=["User:", "\n"],
14 echo=True
15)
16
17print(output['choices'][0]['text'])1@misc{lfm2-1.2b-koen-mt-v4-100k,
2 author = {Gyung},
3 title = {LFM2-1.2B Korean-English Machine Translation Model v4},
4 year = {2025},
5 publisher = {Hugging Face},
6 journal = {Hugging Face Model Hub},
7 howpublished = {\url{[https://huggingface.co/gyung/lfm2-1.2b-koen-mt-v4-100k](https://huggingface.co/gyung/lfm2-1.2b-koen-mt-v4-100k)}}
8}