Multimodal LoRA (GGUF Format)
이 레포지토리는 파인튜닝된 Gemma3 LoRA 모델을 GGUF 포맷으로 변환한 파일입니다.
llama.cpp, LM Studio, Ollama 등 다양한 로컬 추론 도구에서 바로 사용할 수 있습니다.
File Information
- Source Model: wnduss/multimodal_lora
- Quantization: f16 (원본 가중치 보존)
How to use
이 GGUF 파일은 아래 도구들에서 불러와 사용할 수 있습니다:
- LM Studio: 모델 파일을 다운로드 후 검색창에 파일 경로를 입력하세요.
- llama.cpp: 아래 명령어로 실행할 수 있습니다:
./main -m model.gguf -p "입력 프롬프트"
