gemma-3-4b-petspeak-merged
PetSpeak — finetune LoRA de Gemma 3 4B IT pour traduire les signaux multimodaux
(audio/IMU/pose/contexte) d'un animal de compagnie (chien, chat, lapin) en
phrase française naturelle, à la première personne.
Base : google/gemma-3-4b-it
Méthode : LoRA r=32, α=64, dropout=0.05. Cibles : q_proj, k_proj, v_proj, o_proj, gate_proj, up_proj, down_proj (attention complète + MLP SwiGLU).
Dataset : 5000 paires features→phrase synthétiques (templates curated
éthologue, 3 espèces × 8+ états comportementaux).
Hyperparams training : 3 epochs, batch effective 16, lr 2e-4, cosine schedule,
warmup 3%, bf16, gradient checkpointing.
Utilisation iOS : le repo Prophet25200/gemma-3-4b-petspeak-mlx-q4 (MLX Q4) est téléchargé runtime
par l'app PetMind via Apple MLX Swift sur iPhone 15 Pro+. Inference 100 %
on-device, aucune donnée envoyée à Google.
Licence : Gemma Terms of Use —
https://ai.google.dev/gemma/terms
Built with Google Gemma 3.