Views
No views yet
unsloth/gemma-3-4b-it-bnb-4bitr=16, lora_alpha=16)enes1863/bilisim-hukuku-domain-dataset1from transformers import AutoModelForCausalLM, AutoProcessor
2from peft import PeftModel
3
4base_model = "unsloth/gemma-3-4b-it-bnb-4bit"
5adapter = "enes1863/gemma-3-4b-bilisim-hukuku-lora"
6
7model = AutoModelForCausalLM.from_pretrained(base_model, device_map="auto")
8model = PeftModel.from_pretrained(model, adapter)
9processor = AutoProcessor.from_pretrained(adapter)alibayram/yapay_zeka_turkce_mmlu_model_cevaplari veri setindeki 62 bölüm ve 6.200 soru üzerinde yapılmıştır. Base ve LoRA koşularında aynı prompt, seed=42, greedy decoding ve max_new_tokens=42 kullanılmıştır.| model | dogru | toplam | basari_yuzdesi | fark_yuzde_puan |
|---|---|---|---|---|
| gemma-3-4b-bilisim-hukuku-lora | 3555 | 6200 | 57.34 | 0.26 |
| gemma-3-4b-it-base | 3539 | 6200 | 57.08 | 0 |
Sonuçlar doğrudan Transformers/PEFT ile, aynı 4-bit base ağırlıkları üzerinde ölçülmüştür. LoRA satırında yalnızca adaptör etkinleştirilmiştir.
turkhukuk/hukukbert-cloze-benchmark veri setindeki 750 Türkçe hukuk sorusu üzerinde yapılmıştır. Base ve LoRA koşularında aynı prompt, seed=42, greedy decoding ve max_new_tokens=8 kullanılmıştır.| model | dogru | toplam | basari_yuzdesi | fark_yuzde_puan |
|---|---|---|---|---|
| gemma-3-4b-bilisim-hukuku-lora | 479 | 750 | 63.87 | 0.4 |
| gemma-3-4b-it-base | 476 | 750 | 63.47 | 0 |
Sonuçlar Transformers/PEFT ile aynı 4-bit base ağırlıkları üzerinde ölçülmüştür. LoRA satırında yalnızca adaptör etkinleştirilmiştir.