You can deploy this model and start earning money today!

MethodWhite/
materia-v1-1b-bpe

Name: materia-v1-1b-bpe
Availability: InStock

Views

No views yet

M.A.T.E.R.I.A. V1 1B BPE

⚠️ Este repositorio se llamaba anteriormente materia-v4-1b-bpe. La versión "V4" es en realidad la primera versión entrenada (V1) del modelo. Las versiones V1-V3 previas eran prototipos conceptuales no entrenados.

Checkpoint del entrenamiento 1B de M.A.T.E.R.I.A. V1 — arquitectura JEPA-First con HSAQ.

Checkpoints

Archivo original	Descripción
`checkpoint_epoch1.pt`	Epoch 1 — entrenamiento 1B BPE
`checkpoint_epoch2.pt`	Epoch 2 — con HSAQ activo

Modelo base

Archivo	Descripción
`materia-v4.basemateria`	Base model weights (formato .basemateria)
`materia-v4.materia`	Weight module

GGUF (Ollama/Llama.cpp)

Archivo	Quant
`materia-v4-llama-compat.gguf`	FP16 compatible
`materia-v4.Q4_0.gguf`	Q4_0 cuantizado

Arquitectura

JEPA-First con Spectral Coupling Analysis (K = 2.781042)
GQA 8Q:4KV heads + Flash Attention 2
RoPE NTK-aware + SwiGLU
LIF-SNN (16 neuronas) + SSM
HSAQ — máscara de activación dispersa adaptativa

Uso

python

from huggingface_hub import hf_hub_download
ckpt = hf_hub_download('MethodWhite/materia-v1-1b-bpe', 'checkpoint_epoch2.pt')

MethodWhite/materia-v1-1b-bpe