git clone https://github.com/ggml-org/llama.cpp.git
cd llama.cpp
cmake -B build -DGGML_CUDA=ON
cmake --build build --config Release
build/bin/llama-gemma3-cli -m 'ArrowMint-Gemma3-4B-YUKI-v0.1-gguf' --mmproj mmproj.gguf -p '何が写っていますか？' --image image.png -n 128