Bu model, Gemma 3 1B IT taban modelinin Türkçe SEO denetimi görevlerine uyarlanmış LoRA fine-tune sürümüdür. Model; kendisine verilen sayfa veya site kanıtını inceleyip kısa bir gerekçe, SEO kararı ve uygulanabilir öneriler üretmek üzere eğitilmiştir.

Bu çalışma 30 adımlık bir pilot fine-tune'dur. Tam epoch eğitimi, doğrulama değerlendirmesi veya sıralama garantisi olarak yorumlanmamalıdır.

Model özeti

Alan	Değer
Base model	`unsloth/gemma-3-1b-it-unsloth-bnb-4bit`
Model ailesi	Gemma 3 1B IT
Yöntem	LoRA / PEFT
Eğitim çatısı	Unsloth + TRL
Dil	Türkçe
Görev	Kanıta dayalı SEO soru cevaplama ve gerekçelendirme
Maksimum eğitim bağlamı	2.048 token
Veri seti	`berkbirkan/turkish-seo-reasoning`
Eğitim örneği	1.080
Ayrılmış benchmark	120 (%10, eğitimde kullanılmadı)
Eğitim adımı	30
Donanım	NVIDIA Tesla T4, 14.563 GB

Model deposu hem LoRA adapter dosyasını hem de birleştirilmiş model ağırlığını içerir. adapter_model.safetensors yaklaşık 26.1 MB, model.safetensors yaklaşık 2.0 GB boyutundadır.

Amaçlanan davranış

Modelden şu çıktı sırası beklenir:

Verilen kanıta dayalı kısa bir gerekçe
Açık bir SEO kararı
Uygulanabilir öneriler

Beklenen cevap biçimi:

text

Gerekçe: ...

Karar: ...

Öneriler:
- ...
- ...

Modelde tool-call eğitimi yapılmamıştır. reasoning ifadesi gizli düşünce zincirini değil, kullanıcıya gösterilebilir ve denetlenebilir kısa gerekçeyi anlatır.

Eğitim verisi

Turkish SEO Reasoning veri seti Google Search Central ilkelerine dayalı özgün Türkçe SEO vakalarından oluşur.

Split	Kayıt	Oran	Kullanım
Train	1.080	%90	Fine-tune
Test	120	%10	Kilitli benchmark

Test split'i eğitimden önce ayrılmış ve Trainer'a verilmemiştir. Test kümesinde 12 kategori ve 12 tamamen elle hazırlanmış soru bulunur.

Eğitim yapılandırması

Parametre	Değer
LoRA rank	8
LoRA alpha	8
LoRA dropout	0
Bias	none
Trainable parametre	6.522.880
Toplam parametre	1.006.408.832
Eğitilen oran	%0,65
Batch / cihaz	2
Gradient accumulation	4
Etkin batch	8
Learning rate	2e-4
Warmup	5 adım
Optimizer	AdamW 8-bit
Weight decay	0.001
Scheduler	linear
Seed	3407
Assistant-only loss	Evet
Evaluation dataset	Yok

LoRA; language model attention ve MLP projeksiyonlarına uygulanmıştır. Görsel katmanlar eğitilmemiştir. Kullanıcı mesajları loss hesabında maskelenmiş, yalnızca assistant cevapları eğitilmiştir.

Eğitim sonuçları

Metrik	Değer
İlk loss	3.8836
Son loss	1.6389
En düşük loss	1.6123 — adım 21
Gözlenen loss düşüşü	%57,8
Çalışma süresi	383.859 saniye / 6,4 dakika

Loss genel olarak düşmüş olsa da son adımlarda dalgalanma vardır. Bu grafik yalnızca training loss gösterir; validation loss ölçülmemiştir. Etkin batch büyüklüğü 8 olduğundan 1.080 örnek için yaklaşık 135 adım bir epoch eder. Çalışma 30 adımda, yaklaşık 0,22 epoch seviyesinde sonlanmıştır.

Bellek metriği	Değer
GPU kapasitesi	14.563 GB
Eğitim öncesi ayrılmış	1.512 GB
Tepe ayrılmış	1.553 GB
Eğitime atfedilen ek bellek	0.041 GB
Tepe ayrılmış / toplam	%10,664

Notebook çıktısındaki değerler CUDA reserved-memory ölçümüdür; toplam gerçek donanım tüketimi olarak yorumlanmamalıdır.

Kullanım

Transformers PEFT entegrasyonuyla

Depoda adapter_config.json bulunduğu için güncel Transformers/PEFT entegrasyonu base modeli ve LoRA adapter'ını birlikte yükler.

python

from transformers import AutoModelForCausalLM, AutoTokenizer

model_id = "berkbirkan/gemma-3-1b-turkish-seo-reasoning-lora"

tokenizer = AutoTokenizer.from_pretrained(model_id)
model = AutoModelForCausalLM.from_pretrained(
    model_id,
    device_map="auto",
    torch_dtype="auto",
)

prompt = """Sen Google Search Central ilkelerine dayalı bir Türkçe SEO denetim asistanısın.
Yalnızca verilen kanıtlardan hareket et. Önce kısa ve denetlenebilir bir gerekçe,
ardından karar ve uygulanabilir öneri ver. Sıralama garantisi verme.

Soru: Bu URL'nin indekslenebilirliğini değerlendirin.

Kanıt:
URL 200 döndürüyor.
HTTP yanıtında X-Robots-Tag: noindex bulunuyor."""

messages = [{"role": "user", "content": prompt}]
inputs = tokenizer.apply_chat_template(
    messages,
    add_generation_prompt=True,
    tokenize=True,
    return_tensors="pt",
    return_dict=True,
).to(model.device)

outputs = model.generate(
    **inputs,
    max_new_tokens=256,
    do_sample=False,
)

answer = tokenizer.decode(
    outputs[0][inputs["input_ids"].shape[-1]:],
    skip_special_tokens=True,
)
print(answer)

AutoPeftModel ile açık adapter yükleme

python

from peft import AutoPeftModelForCausalLM
from transformers import AutoTokenizer

model_id = "berkbirkan/gemma-3-1b-turkish-seo-reasoning-lora"

tokenizer = AutoTokenizer.from_pretrained(model_id)
model = AutoPeftModelForCausalLM.from_pretrained(
    model_id,
    device_map="auto",
    torch_dtype="auto",
)

Benchmark

120 soruluk kilitli benchmark; robots/indexing, canonical, redirects, sitemap, title links, snippets, structured data, helpful content, hreflang, internal links, JavaScript SEO ve SEO mitleri kategorilerini kapsar.

Benchmark, NVIDIA Tesla T4 üzerinde Hugging Face Jobs kullanılarak altı model/checkpoint ile tamamlandı.

Sıra	Model	Skor	Elle yazılmış 12 soru
1	Gemma 3 1B Turkish SEO LoRA	22,2335	20,9288
2	Phi-3.5 Mini Instruct	12,5835	16,1513
3	Gemma 3 1B IT Base	11,9554	13,2502
4	Qwen2.5 1.5B Instruct	1,4156	3,4508
5	SmolLM2 1.7B Instruct	0,1866	0,3553
6	TinyLlama 1.1B Chat	0,0000	0,0000

Fine-tuned model aynı Gemma 3 1B base checkpoint'ine göre:

+10,2781 mutlak puan
%85,97 göreli artış
12 kategorinin tamamında daha yüksek skor
120 soruda sıfır inference hatası

Puan; gerekçe token-F1 (%30), karar token-F1 (%40), öneriler token-F1 (%20) ve çıktı formatından (%10) oluşur. Bu lexical ölçüm anlamsal olarak doğru farklı ifadeleri düşük puanlayabilir. Fine-tuned model beklenen cevap formatıyla eğitildiğinden format bakımından doğal avantaja sahiptir.

Ham 720 model yanıtı, revision bilgileri, kategori skorları ve çalışma manifestleri:

https://huggingface.co/datasets/berkbirkan/turkish-seo-reasoning-benchmark-results

Sınırlamalar

Eğitim yalnızca 30 adım sürmüştür; tam epoch değildir.
Validation split veya validation loss kullanılmamıştır.
Otomatik benchmark lexical benzerliğe duyarlıdır ve insan uzman değerlendirmesinin yerini tutmaz.
Veri büyük ölçüde kontrollü ve sentetik SEO senaryolarından oluşur.
Model güncel olmayan SEO ilkelerini zaman içinde tekrar edebilir.
Model canlı siteyi taramaz ve Search Console verisine erişmez.
Modelin önerileri uzman incelemesinin yerini tutmaz.
SEO görünürlüğü veya sıralaması garanti edilmez.
Kanıt yetersizse model yine de aşırı kesin cevap üretebilir.

Yeniden üretilebilirlik

Tamamlanmış eğitim notebook'u: https://colab.research.google.com/drive/1BoPKf-a7msrIs1zuG3BggeTU1Ux06HJo
Veri seti: https://huggingface.co/datasets/berkbirkan/turkish-seo-reasoning
Base model: https://huggingface.co/unsloth/gemma-3-1b-it-unsloth-bnb-4bit
Eğitim metrikleri: training_metrics.json

Lisans ve atıf

Model, Gemma kullanım koşullarına tabidir. Veri setindeki türetilmiş Türkçe senaryoların lisans ve kaynak bilgileri veri seti kartında açıklanmıştır.

Bu model araştırma ve eğitim amaçlıdır.