You can deploy this model and start earning money today!

javier-lazaro/
Skyrim-Esp-Llama-3.1-8B-Instruct-Alpaca-v2

Name: Skyrim-Esp-Llama-3.1-8B-Instruct-Alpaca-v2
Availability: InStock

safetensors

gguf

meta-llama/Llama-3.1-8B-Instruct

Views

No views yet

Skyrim-Esp-Llama-3.1-8B-Instruct-Alpaca-v2

Esta es la Iteración 3, fine-tuneada sobre el mismo dataset Alpaca-style pero usando Unsloth y modelo cuantizado a 4 bits.

Descripción

Se migró el pipeline a Unsloth, aprovechando su tokenizador optimizado y soporte nativo para cuantización de 4 bits del backbone LLaMA 3.1-8B-Instruct.

Metodología

Dataset JSONL Alpaca-style de Iteración 2.
Framework: Unsloth con LoRA 4 bits.
Entrenamiento:
- Épocas: 5
- Pérdida final: ~0.10

Uso

bash

ollama serve --model javier-lazaro/Skyrim-Esp-Llama-3.1-8B-Instruct-Alpaca-v2

curl -X POST http://localhost:11434/v1/chat/completions \
     -H "Content-Type: application/json" \
     -d '{
       "model":"llama-3.1-8b-instruct-alpaca-v2",
       "messages":[{"role":"user","content":"¿Qué relevancia tiene Ulfric Corazón de Colmillo?"}]
     }'