Views
No views yet
google/gemma-3-4b-it를 LoRA(QLoRA)로 파인튜닝한 온디바이스 VLM.mlx-community/gemma-3-4b-it-qat-4bit (Gemma 3 4B IT, QAT 4bit)gemma3 (변경 없음 → mlx-swift-lm VLM 로더 그대로 호환)1python -m mlx_vlm.generate \
2 --model mlx-community/gemma-3-4b-it-qat-4bit \
3 --adapter-path <this-repo> \
4 --image bottle.jpg \
5 --prompt "이 한국 분리배출 마크를 인식하고, 분리배출 방법을 한국어로 단계별로 알려줘." \
6 --max-tokens 300 --repetition-penalty 1.1ml-explore/mlx-swift-lm, MLXVLM)에서 ModelConfiguration(id: ...)로 로드.
실기기 전용, Increased Memory Limit 필요.