یہ ماڈل Qwen/Qwen2-1.5B-Instruct کا فائن ٹیون شدہ ورژن ہے، جسے خصوصی طور پر اردو زبان میں انسٹرکشن فالوونگ اور چیٹ کی صلاحیتوں کو بہتر بنانے کے لیے تیار کیا گیا ہے۔

مقصد: اس ماڈل کا مقصد اردو زبان میں فطری اور مقامی طور پر متعلقہ جوابات فراہم کرنا ہے، جس سے یہ اردو بولنے والے صارفین کے لیے ایک مددگار چیٹ بوٹ بن سکے۔

⚙️ فائن ٹیوننگ کی تفصیلات (Fine-tuning Details)

پیرامیٹر	ویلیو
بیس ماڈل (Base Model)	Qwen2-1.5B-Instruct
ڈیٹا سیٹ (Dataset)	mahwizzzz/urdu_alpaca_yc_filtered
فائن ٹیوننگ تکنیک	QLoRA (4-bit Quantization)
ٹریننگ لائبریری	TRL (SFTTrainer)
LoRA کنفیگریشن	r=16, lora_alpha=32
Epochs کی تعداد	2
حتمی ٹریننگ Loss	~0.64 (ایک بہترین Loss ویلیو)
ٹارگٹڈ ٹاسک	اردو میں بات چیت اور ہدایات پر عمل کرنا (Instruction Following)

🚀 ماڈل کا استعمال (Usage)

یہ ماڈل LoRA اڈاپٹرز کو بیس ماڈل سے ضم (Merge) کرنے کے بعد استعمال کے لیے تیار ہے۔ آپ اسے transformers اور torch کے ذریعے آسانی سے استعمال کر سکتے ہیں۔

Python کوڈ (Inference Code)

ماڈل کو لوڈ کرنے اور جواب حاصل کرنے کا طریقہ:

python

import torch
from transformers import AutoModelForCausalLM, AutoTokenizer

# ریپوزیٹری کا نام (یقینی بنائیں کہ یہ آپ کی ریپو کا نام ہے)
model_id = "Khurram123/Qwen2-1.5B-Urdu-Finetuned" 

# 1. ٹوکنائزر اور ماڈل لوڈ کریں
tokenizer = AutoTokenizer.from_pretrained(model_id)

# کم میموری والے GPU پر چلانے کے لیے bfloat16 استعمال کریں
model = AutoModelForCausalLM.from_pretrained(
    model_id,
    torch_dtype=torch.bfloat16,
    device_map="auto"
)

# 2. انفرنس پرامپٹ تیار کریں
urdu_prompt = "درست جواب دیں: پاکستان کی قومی زبان کون سی ہے اور اس کی اہمیت کیا ہے؟"

messages = [
    {"role": "system", "content": "آپ ایک مددگار اردو چیٹ بوٹ ہیں جو ہمیشہ بہترین اور مفید اردو میں جواب دیتا ہے۔"},
    {"role": "user", "content": urdu_prompt},
]

input_text = tokenizer.apply_chat_template(messages, tokenize=False, add_generation_prompt=True)
input_ids = tokenizer(input_text, return_tensors="pt").to(model.device)

# 3. جواب بنائیں
print("Generating response...")
with torch.no_grad():
    output_tokens = model.generate(
        **input_ids,
        max_new_tokens=256,
        do_sample=True,
        temperature=0.7,
        top_k=50,
        top_p=0.95,
        pad_token_id=tokenizer.eos_token_id
    )

output_text = tokenizer.decode(output_tokens[0], skip_special_tokens=False)

# 4. نتیجہ دکھائیں
assistant_response = output_text.split("<|im_start|>assistant\n")[-1].strip().split("<|im_end|>")[0].strip()
print(f"\nASSISTANT: {assistant_response}")