Views
No views yet
llama-cli -hf NrengifoBTS/redactoria_V3 --jinjallama-mtmd-cli -hf NrengifoBTS/redactoria_V3 --jinjaMeta-Llama-3.1-8B.Q4_K_M.gguf
This was trained 2x faster with Unsloth

Marca, Tema, Template) en una matriz de contenido completa que sigue la jerarquía visual y técnica de la agencia:| PG: | BLQ: | TIPO: | ES: |).** y respeta estrictamente la jerarquía de etiquetas (H1, H2, FAQ, etc.).1from unsloth import FastLanguageModel
2import torch
3
4model, tokenizer = FastLanguageModel.from_pretrained("tu-usuario/nombre-del-modelo")
5FastLanguageModel.for_inference(model)
6
7alpaca_prompt = """### Instruction:
8Generar el contenido para una landing page siguiendo el tono de voz de la marca y la estructura de bloques indicada.
9
10### Input:
11TEMA: {tema}
12MARCA: {marca}
13TEMPLATE: {template}
14
15### Response:
16"""
17
18inputs = tokenizer([alpaca_prompt.format(
19 "Alquiler de autos en Miami",
20 "Viajemos",
21 "Template Agencias"
22)], return_tensors = "pt").to("cuda")
23
24outputs = model.generate(**inputs, max_new_tokens = 2048)
25print(tokenizer.decode(outputs[0]))
26