⚖️ BitNet-SCJN-3.2B: Asistente Legal Mexicano (1.58-bit GGUF)

🚀 Innovaciones Técnicas

• Arquitectura: BitNet b1.58-bit (Pesos ternarios: {-1, 0, 1}).
• Compresión: Reducción del tamaño del modelo de ~14GB (FP16) a solo 1.4 GiB.
• Inferencia Optimizada: Totalmente compatible con TurboQuant (KV Cache Quantization) y Flash Attention, permitiendo procesar contextos legales extensos en hardware de consumo.
• Formato: GGUF (optimizado para llama.cpp y bitnet.cpp).

📊 Datos de Entrenamiento

• 51,272 registros oficiales de la SCJN.
• Tesis aisladas y jurisprudenciales de la Época actual.
• Estructura de datos optimizada para RAG (Retrieval-Augmented Generation).

🛠️ Cómo usar (Inferencia con llama.cpp)

Parámetros Clave:

• -fa: Habilita Flash Attention.
• -ctk q4_0 -ctv q4_0: Activa la cuantización de caché KV (TurboQuant) para manejar contextos largos de jurisprudencia con un 50% menos de RAM.

⚖️ Disclaimer Legal