Views
No views yet
vngrs/kumru-2b temel (base) modeli üzerine Türkçe matematik problemlerini, akıl yürütme (reasoning) ve hesaplama görevlerini daha iyi çözebilmesi amacıyla ince ayar (fine-tuning) yapılarak geliştirilmiş bir LoRA (Low-Rank Adaptation) adaptörüdür.transformers ve peft kütüphanelerine ihtiyacınız olacak:pip install transformers peft torch1import torch
2from peft import PeftModel
3from transformers import AutoModelForCausalLM, AutoTokenizer
4
5# Temel modeli ve tokenizer'ı yükleme
6model_id = "vngrs/kumru-2b"
7base_model = AutoModelForCausalLM.from_pretrained(model_id, device_map="auto")
8tokenizer = AutoTokenizer.from_pretrained(model_id)
9
10# LoRA adaptörünü temel model ile birleştirme
11lora_id = "sixfingerdev/sixfinger-2b-math-lora"
12model = PeftModel.from_pretrained(base_model, lora_id)
13
14# Örnek Kullanım
15prompt = "Bir bakkal tanesi 5 TL'den 20 tane ekmek alıyor. Toplam ne kadar öder?"
16inputs = tokenizer(prompt, return_tensors="pt").to(model.device)
17
18with torch.no_grad():
19 outputs = model.generate(**inputs, max_new_tokens=50)
20
21print(tokenizer.decode(outputs[0], skip_special_tokens=True))