Este repositório faz parte da coleção Mangaba AI de modelos GGUF prontos para rodar localmente com llama.cpp, LM Studio, Ollama ou o Mangaba Gateway.

Modelo base: google/gemma-4-12B-it
Formato: GGUF (quantizado)
Uso recomendado: inferência local em CPU/Apple Silicon

Como usar

bash

# llama.cpp
llama-cli -hf mangaba-ai/Mangaba-Gemma-4-12B-it-GGUF -p "Olá!"

bash

# download direto
hf download mangaba-ai/Mangaba-Gemma-4-12B-it-GGUF

_{Licença do modelo base: apache-2.0. Quantização GGUF derivada do trabalho
da equipe Unsloth (atribuição mantida conforme a licença). Branding e curadoria:
Mangaba AI.}