Temel model: vngrs-ai/Kumru-2B
Eğitim yöntemi: Unsloth + LoRA (r=16)
Eğitim süresi: 2 epoch (~35 dk, T4 GPU)
Son eval loss: ~5.39
Veri seti: Flört uygulamalarından toplanmış Türkçe konuşmalar (~38.537 satır)
Adaptörü Oluşturan: @TlCARET

Bu model ne yapar / ne yapmaz?

Base modele göre cevap farklılıkları:

Argo ve emoji kullanımı arttı
Klasik sohbet başlangıçlarında cevap tutarlılığı iyileşti
Flörtöz sorularda alakalı cevaplar üretiyor
Flörtöz sohbet devamlılığı iyileşti

Eksiklikler:

Model parametresi göz önünde bulundurulunca verilen cevaplarda akıl yürütmesi noksan.
Epoch sayısı artsa ve QA'da tekrar sayısı artsa da loss benzer kalıyor bu veri setinde.
Base model çok fazla sözlük etkisinde kaldığı için alakasız yerlerde Bknz: diyebiliyor.

Not(lar):

Tamamen eğlence ve deney amaçlıdır. Profesyonel kullanıma uygun değildir.
Eğitim verilerine system prompt dahil edilmemiştir.

Kullanım

python

from transformers import AutoModelForCausalLM, AutoTokenizer
from peft import PeftModel
import torch

base_model = "vngrs-ai/Kumru-2B"
lora_path = "aiproje/kumru-2b-flirt-lora"   # kendi repo adını yaz

tokenizer = AutoTokenizer.from_pretrained(base_model)
model = AutoModelForCausalLM.from_pretrained(
    base_model,
    load_in_4bit=True,
    device_map="auto"
)
model = PeftModel.from_pretrained(model, lora_path)

# Örnek sohbet
prompt = "Nasılsın şekerim? 😏"
inputs = tokenizer(prompt, return_tensors="pt").to("cuda")
outputs = model.generate(
    **inputs,
    max_new_tokens=120,
    temperature=0.85,       # biraz daha yaratıcı
    top_p=0.92,
    repetition_penalty=1.2, # daha fazla tekrar 
    max_new_tokens=300,
    repetition_penalty=1.25,
    do_sample=True
)
print(tokenizer.decode(outputs[0], skip_special_tokens=True))

aiprojecom/kumru-2b-flirt-lora

Flört veri seti ile eğitilmiş Kumru 2B Instruct Lora

Model Detayları

Bu model ne yapar / ne yapmaz?

Kullanım

aiprojecom/
kumru-2b-flirt-lora