You can deploy this model and start earning money today!

MohamedBelal-AI/
llama3-writing-prompts-lora

Name: llama3-writing-prompts-lora
Availability: InStock

meta-llama/Meta-Llama-3-8B-Instruct

adapter

llama3

Views

No views yet

Llama-3-8B Fine-tuned on WritingPrompts (LoRA Adapter)

نظرة عامة | Overview

هذا الموديل عبارة عن LoRA Adapter تم تدريبه فوق meta-llama/Meta-Llama-3-8B لمهمة توليد النصوص المشروط (Conditional Text Generation) باستخدام بيانات WritingPrompts، بحيث يقوم بتحويل عنوان أو فكرة قصيرة (Prompt) إلى قصة مكتوبة.

This model is a LoRA adapter fine-tuned on top of meta-llama/Meta-Llama-3-8B for conditional text generation using the WritingPrompts dataset — converting a short prompt/title into a full story.

تفاصيل التدريب | Training Details

Base model: meta-llama/Meta-Llama-3-8B
Method: LoRA (Low-Rank Adaptation)
LoRA rank (r): 16
LoRA alpha: 32
Target modules: q_proj, v_proj, k_proj, o_proj, gate_proj, up_proj, down_proj
Dataset: WritingPrompts

نتائج التقييم | Evaluation Results

Perplexity (PPL): 19.67

طريقة الاستخدام | Usage

python

import torch
from peft import PeftModel
from transformers import AutoModelForCausalLM, AutoTokenizer

base_model_name = "meta-llama/Meta-Llama-3-8B"
adapter_id = "MohamedBelal-AI/llama3-writing-prompts-lora"

tokenizer = AutoTokenizer.from_pretrained(base_model_name)
base_model = AutoModelForCausalLM.from_pretrained(
    base_model_name,
    torch_dtype=torch.float16,
    device_map="auto",
)

model = PeftModel.from_pretrained(base_model, adapter_id)

prompt = "A lonely lighthouse keeper discovers a message in a bottle."
inputs = tokenizer(prompt, return_tensors="pt").to(model.device)
outputs = model.generate(**inputs, max_new_tokens=200)
print(tokenizer.decode(outputs[0], skip_special_tokens=True))

القيود | Limitations

هذا الموديل adapter وليس موديل كامل، يجب تحميله مع الموديل الأساسي meta-llama/Meta-Llama-3-8B (Gated model، يتطلب الموافقة على شروط الاستخدام من Meta).

This is an adapter, not a standalone model — it must be loaded alongside the base model meta-llama/Meta-Llama-3-8B (a gated model requiring Meta's license acceptance).