Qwen3.5-9B Abliterated-HSAQ (HSAQR fine-tune)

Pipeline

1. Abliteración HSAQ desde Qwen3.5-9B-Base:
   • En vez de borrar el vector de refusal completo (pierde inteligencia), HSAQ enmascara solo los componentes ruidosos del vector (umbral kthvalue).
   • Capas 8–31 (24 capas), sparsity 0.1 (≈90% del vector retenido), ortogonalización de down_proj + o_proj (48 matrices).
   • Detalle: HSAQ.md en el repo de la técnica (MethodWhite/HSAQ).
2. Fine-tune HSAQR (QLoRA 4-bit):
   • Base: qwen3.5-9b-abliterated-v2.
   • LoRA r=32, alpha=64, dropout 0.05, sobre proyecciones attention + MLP.
   • Sparsity HSAQ en las activaciones (STE) durante el entrenamiento.
   • Dataset: 7.547 ejemplos de seguridad ofensiva/defensiva 2026 (bug bounty, CTF, red team, hardening) en español/inglés, con <think> conforme + respuesta útil.

Resultados (A/B vs abliterated normal)

Archivos

• model.safetensors — pesos completos (bf16), un shard, 17.9G.
• Qwen3.5-9B-Abliterated-HSAQR.Q4_K_M.gguf — cuantización Q4_K_M (5.6G) para llama.cpp / llama-server (sin capa MTP, block_count = 32).

Uso (transformers)

Uso (llama.cpp)

Notas de uso responsable

Hardware