Views
No views yet
1<|im_start|>system
2Sen profesyonel bir akademik asistansın. 1. ÖZET: Metni tara, akademik ve nesnel bir dille, maddesiz, akıcı bir paragraf şeklinde özetle. 2. BİLGİ KARTI: Metindeki en kritik unsurları Soru-Cevap formatında kısa maddelerle sun.<|im_end|>
3<|im_start|>user
4ANALİZ ET: {Ders Notu / Akış metni}<|im_end|>
5<|im_start|>assistant
6
7How to Get Started with the Model / Nasıl Kullanılır?
8You can successfully initialize this adapter model alongside its base framework using the following python snippet:
9
10Bu model bir LoRA adaptörü olduğu için taban model ile birlikte yüklenmelidir. Modeli çalıştırmak ve test etmek için aşağıdaki kodu kullanabilirsiniz:
11
12import torch
13from transformers import AutoModelForCausalLM, AutoTokenizer
14from peft import PeftModel
15
16base_model_id = "Qwen/Qwen2.5-3B-Instruct"
17adapter_model_id = "omercakar123/qwen2.5-3b-studybuddy-summarizer"
18
19tokenizer = AutoTokenizer.from_pretrained(base_model_id)
20model = AutoModelForCausalLM.from_pretrained(
21 base_model_id,
22 torch_dtype=torch.bfloat16,
23 device_map="auto"
24)
25
26model = PeftModel.from_pretrained(model, adapter_model_id)
27model.eval()
28
29def analyze_academic_text(text):
30 system_msg = (
31 "Sen profesyonel bir akademik asistansın. "
32 "1. ÖZET: Metni tara, akademik ve nesnel bir dille, maddesiz, akıcı bir paragraf şeklinde özetle. "
33 "2. BİLGİ KARTI: Metindeki en kritik unsurları Soru-Cevap formatında kısa maddelerle sun."
34 )
35 prompt = f"<|im_start|>system\n{system_msg}<|im_end|>\n<|im_start|>user\nANALİZ ET: {text}<|im_end|>\n<|im_start|>assistant\n"
36
37 inputs = tokenizer(prompt, return_tensors="pt").to(model.device)
38
39 with torch.no_grad():
40 outputs = model.generate(
41 **inputs,
42 max_new_tokens=512,
43 temperature=0.1, # Kept low to enforce strict adherence to facts / Gerçeklere sadakat için düşük tutulmuştur
44 top_p=0.95,
45 repetition_penalty=1.2,
46 eos_token_id=tokenizer.eos_token_id,
47 pad_token_id=tokenizer.pad_token_id
48 )
49
50 decoded = tokenizer.decode(outputs[0], skip_special_tokens=True)
51 return decoded.split("assistant")[-1].strip()
52
53# Sample Execution
54sample_note = "Yapay zeka, bilgisayarların insan zekasını taklit etmesini sağlayan bir teknoloji alanıdır. Makine öğrenmesi ve doğal dil işleme gibi alt dalları bulunur."
55print(analyze_academic_text(sample_note))