Views
No views yet
| خصوصیت (Feature) | تفصیل (Description) |
|---|---|
| Chain-of-Thought (CoT) | جواب دینے سے پہلے <think> بلاک میں قدم بہ قدم تجزیہ کرنا۔ |
| Linguistic Precision | اردو کے لسانی مغالطوں (Linguistic Traps) کو پہچاننے کی صلاحیت۔ |
| Cultural Awareness | اردو ثقافت، رشتہ داریوں اور ادبی پہیلیوں کا گہرا علم۔ |
| Edge Deployment | 4-bit Quantization کے ساتھ عام ہارڈویئر (RTX 4060 Ti) پر تیز رفتار کارکردگی۔ |
1from unsloth import FastLanguageModel
2import torch
3
4# Load the model and tokenizer
5model, tokenizer = FastLanguageModel.from_pretrained(
6 model_name = "Khurram123/urdu-deepseek-r1-ultra-genius",
7 max_seq_length = 2048,
8 load_in_4bit = True,
9)
10FastLanguageModel.for_inference(model)
11
12# Evaluation Prompt
13prompt = "### Instruction:\nوہ کیا ہے جو جتنا زیادہ خشک کرتا ہے، خود اتنا ہی گیلا ہوتا جاتا ہے؟\n\n### Response:\n<think>\n"
14inputs = tokenizer([prompt], return_tensors = "pt").to("cuda")
15outputs = model.generate(**inputs, max_new_tokens = 256, temperature = 0.1)
16
17print(tokenizer.batch_decode(outputs)[0])