Views
No views yet
transformerstransformers + trl's SFTTrainer| Step | Training Loss | Validation Loss |
|---|---|---|
| 100 | 0.8318 | 0.8238 |
| 500 | 0.7467 | 0.7218 |
| 1000 | 0.6708 | 0.6710 |
| 1500 | 0.6561 | 0.6431 |
| 1900 | 0.6913 | 0.6380 |
1from transformers import AutoTokenizer, AutoModelForCausalLM
2from peft import PeftModel
3
4# Load tokenizer
5tokenizer = AutoTokenizer.from_pretrained("meftah416/qwen3-1.7B-bang-summary")
6
7# Load base model
8base_model = AutoModelForCausalLM.from_pretrained("Qwen/Qwen1.5-1.7B", device_map="auto", torch_dtype="auto")
9
10# Load adapter
11model = PeftModel.from_pretrained(base_model, "meftah416/qwen3-1.7B-bang-summary")
12
13# Generate text
14prompt = """
15দরপতনের বৃত্তে বন্দি থাকা শেয়ারবাজার তীব্র তারল্য সংকটের মুখেও পড়েছে। মঙ্গলবার দেশের প্রধান শেয়ারবাজার ঢাকা স্টক এক্সচেঞ্জে (ডিএসই)
16লেনদেন হয়েছে ৩০০ কোটি টাকারও কম। দিনশেষে লেনদেন হয়েছে ২৯১ কোটি টাকা, যা চলতি বছরের সর্বনিম্ন লেনদেন। উপরন্তু চলতি বছরে
17প্রথমবারের মতো ৩০০ কোটি টাকার কম লেনদেন হয়েছে। এরআগে গত বছরের ২৬ ডিসেম্বর ডিএসইতে ৩০০ কোটি টাকার কম লেনদেন হয়েছিল। ওইদিন লেনদেন হয়েছিল ২৮২ কোটি টাকা।
18এদিকে লেনদেন কমার পাশাপাশি সূচকেরও পতন ঘটেছে। আগের দিনের সূচক থেকে ১৭ পয়েন্ট কমে দিনশেষে ডিএসইর প্রধান সূচক ডিএসইএক্স
19দাঁড়িয়েছে ৪ হাজার ৯৩৫ পয়েন্টে। ডিএসইক্সের পাশাপাশি ডিএসই শরিয়াহ সূচক ও ডিএসই-৩০ সূচকেরও পতন হয়েছে।
20"""
21input_text = f"Summarize the following text \n{prompt}:"
22inputs = tokenizer(input_text, return_tensors="pt").to(model.device)
23output = model.generate(**inputs, max_new_tokens=512)
24print(tokenizer.decode(output[0], skip_special_tokens=True))