Temel model: unsloth/gemma-3-1b-it
Framework: Unsloth + TRL (SFT)
Yontem: LoRA (r=16, alpha=16), 4-bit (QLoRA)
Hedef moduller: q/k/v/o_proj, gate/up/down_proj
Epoch: 2
Veri: MEB soru arsivinden turetilmis, referans sohbet formatinda ~20.000 ornek (matematik haric)

Kullanim

python

from unsloth import FastModel

model, tokenizer = FastModel.from_pretrained("nursimakgul/gemma-3-1b-meb-soru-lora", load_in_4bit=True)

messages = [{"role": "user", "content": "5. sinif Fen Bilimleri - Gunes, Dunya ve Ay konusunda orta seviyede coktan secmeli soru uret."}]
inputs = tokenizer.apply_chat_template(messages, add_generation_prompt=True, return_tensors="pt").to(model.device)
out = model.generate(input_ids=inputs, max_new_tokens=256, temperature=0.8, do_sample=True)
print(tokenizer.decode(out[0][inputs.shape[1]:], skip_special_tokens=True))

Sinirlamalar

Uretilen sorularin dogrulugu her zaman garanti degildir; egitim/degerlendirme amaclidir, dogrudan sinavda kullanim icin ek kontrol gerekir.

Benchmark Sonuçları

Model, iki Türkçe benchmark'ta değerlendirilip base model ve diğer küçük modellerle karşılaştırılmıştır. Skorlar başarı yüzdesidir.

MMLU: alibayram/yapay_zeka_turkce_mmlu_model_cevaplari (500 soru)
Belebele: facebook/belebele — tur_Latn (500 soru)

Model	MMLU	Belebele	Ortalama
Turkish-Llama-8b-DPO-v0.1	56.6	71.2	63.9
gemma-2-2b-it	53.6	68.2	60.9
gemma-3-1b-it	43.6	51	47.3
Qwen2.5-1.5B-Instruct	25.2	51.8	38.5
Llama-3.2-1B-Instruct	29.6	43.8	36.7
gemma-3-1b-meb-soru-lora	21.8	28.6	25.2