gemma-4-e2b-it-mxfp4-mlx

Resume

• Famille : Gemma 4 E2B
• Base model : google/gemma-4-E2B-it
• Repo id conseille : NeoRoth/gemma-4-e2b-it-mxfp4-mlx
• Modalites : text, image, audio
• Architecture : dense
• Couches texte : 35
• Profil public de quantification : MXFP4 4-bit
• Quantification par defaut : mxfp4 4-bit, group_size=32
• Overrides par couche : 0
• Taille totale des poids : 3.21 GB
• Plus gros shard : 3.21 GB

Ce qui differe des quantifications habituelles

• Pas d'override par couche dans config.json : cette variante est plus proche d'un export MXFP4 uniforme.
• Les composants sensibles restent en haute precision quand c'est necessaire : tours vision/audio, projecteurs multimodaux, normes et router MoE ne sont pas traites comme de simples poids MXFP4 uniformes.
• Les embeddings token suivent la politique locale du checkpoint. Sur les variantes standard publiees ici, ils ne sont pas presentes comme une quantification HF canonique quelconque : il s'agit d'un export MLX prepare pour ce projet.
• Cette variante n'expose pas d'overrides par couche dans config.json : elle est plus proche d'une quantification MXFP4 uniforme que les autres variantes publiees ici.

Fichiers de poids

• model.safetensors

Format et compatibilite

• Format de repo : safetensors + config.json + tokenizer/chat template.
• Ce depot est pense pour les chargeurs MLX capables de lire la section quantization de config.json, y compris les overrides par couche.
• Le repo est publie en tant que checkpoint MLX complet. Il ne s'agit pas d'un simple alias vers le modele Google original.

Telechargement

Python

CLI Hugging Face

Notes de publication

• Licence du checkpoint heritee du modele de base : Gemma Terms of Use.
• Attribution recommandee : mentionner google/gemma-4-E2B-it comme modele source.
• Les differences de quantification sont documentees ici pour eviter de faire passer ce checkpoint pour une quantification MXFP4 "standard" ou "officielle".

Licence et conditions d'utilisation

Gemma is provided under and subject to the Gemma Terms of Use found at ai.google.dev/gemma/terms

• Conditions complètes : https://ai.google.dev/gemma/terms
• Politique d'usage interdit (Prohibited Use Policy) : https://ai.google.dev/gemma/prohibited_use_policy
• Usage commercial autorisé dans le strict respect de ces conditions.
• En téléchargeant ou en utilisant ce checkpoint, vous acceptez les Gemma Terms of Use et la Prohibited Use Policy, qui se propagent à tout usage en aval.