Dosya	Quant	Boyut	Kalite	Önerilen
`Gemma_E4B_Kizagan_Abliterated-Q4_K_M.gguf`	Q4_K_M	~5 GB	⭐⭐⭐⭐	8GB VRAM, dengeli kullanım
`Gemma_E4B_Kizagan_Abliterated-F16.gguf`	F16	~15 GB	⭐⭐⭐⭐⭐	16GB+ VRAM, maksimum kalite

🚀 Kullanım

🦙 llama.cpp

bash

# Q4_K_M
llama-cli -hf canyrtcn/Gemma_E4B_Kizagan_Abliterated-GGUF:Q4_K_M \
  --chat-template gemma

# F16
llama-cli -hf canyrtcn/Gemma_E4B_Kizagan_Abliterated-GGUF:F16 \
  --chat-template gemma

🐳 Ollama

ollama create kizagan-abliterated -f Modelfile

Modelfile:

FROM ./Gemma_E4B_Kizagan_Abliterated-Q4_K_M.gguf
PARAMETER temperature 0.3
PARAMETER top_p 0.95
PARAMETER top_k 20
PARAMETER repeat_penalty 1.05
TEMPLATE """{{ if .System }}<|turn>system
{{ .System }}<turn|>
{{ end }}<|turn>user
{{ .Prompt }}<turn|>
<|turn>model
"""

🖥️ LM Studio

Repoyu aratıp indirebilirsiniz.

📐 Model Hakkında

Bu GGUF'lar, canyrtcn/Gemma_E4B_Kizagan_Abliterated modelinden dönüştürülmüştür:

Temel model: Gemma 4 E4B-it (Google DeepMind)
Türkçe SFT: AlicanKiraz0/Kizagan-E4B-Turkish-Reasoning-Model (540K satır)
Abliteration: Reddetme davranışı kaldırıldı
Mimari: Gemma 4 (MoE-style PLE, 7.5B toplam / 4B efektif)
Context: 131K token

⚙️ Önerilen Parametreler

Parametre	Değer
`temperature`	0.3
`top_p`	0.95
`min_p`	0.05
`top_k`	20
`repeat_penalty`	1.05

⚠️ Uyarı

Bu modelin reddetme davranışı kaldırılmıştır (abliterated). Filtrelenmemiş içerik üretebilir. Kullanım sorumluluğu size aittir.

📜 Lisans

Apache 2.0. Google Gemma Terms of Use koşullarına tabidir.

🔗 Bağlantılar

Ana model (safetensors): canyrtcn/Gemma_E4B_Kizagan_Abliterated
Orijinal Kızagan: AlicanKiraz0/Kizagan-E4B
Temel model: google/gemma-4-E4B-it