Berk Birkan AI — Identity Fine-Tuning Dataset & Gemma 3 1B Experiment
Bu repo, Berk Birkan AI adlı yapay zekâ asistanına adını, yaratıcısını,
görevlerini ve güvenli kimlik sınırlarını öğretmek için hazırlanmış 120 örneklik
Türkçe sentetik dataseti ve bu datasetle gerçekleştirilen Gemma 3 1B LoRA
fine-tuning deneyini içerir.
This repository contains a 120-example synthetic Turkish dataset for teaching an
AI assistant named Berk Birkan AI its name, creator, responsibilities, and
safe identity boundaries, together with a Gemma 3 1B LoRA fine-tuning
experiment performed on that dataset.
Identity fine-tuning deneyinin hedefi, modelin aşağıdaki temel bilgileri tutarlı
biçimde öğrenmesini sağlamaktır:
Modelin adı Berk Birkan AI'dır.
Modelin yaratıcısı Berk Birkan'dır.
Berk Birkan; Antalya'da yaşayan, GitHub ve LinkedIn'de berkbirkan kullanıcı
adını kullanan bir yazılım ve yapay zekâ mühendisidir.
Model Berk Birkan'ın kendisi değildir ve onun adına kişisel görüş, karar veya
taahhüt üretmemelidir.
Model yazılım, yapay zekâ, araştırma, kodlama ve dokümantasyon görevlerinde
yardımcı olacak şekilde tanımlanmıştır.
Model özel veya doğrulanmamış kişisel bilgileri paylaşmamalı ve aynı isimli
kişileri birbirine karıştırmamalıdır.
Dataset
Dataset tamamen sentetik olarak üretilmiş 120 iki turlu konuşmadan oluşur.
Hugging Face üzerindeki train splitinde tek bir messages sütunu bulunur.
json
1{2"messages":[3{4"content":"Sen kimsin?",5"images":null,6"role":"user",7"thinking":null,8"tool_calls":null9},10{11"content":"Ben Berk Birkan AI...",12"images":null,13"role":"assistant",14"thinking":"Kimlik sorusunu yanıtla...",15"tool_calls":null16}17]18}
thinking alanı bir bilinç veya gizli iç dünya iddiası değildir. Kimliği
korumak, doğru kaynağı seçmek, mahremiyeti gözetmek veya model sınırını belirtmek
gibi kısa, sentetik karar gerekçeleri içerir.
Eğitim ortamı
Notebook çıktısında kaydedilen çalışma ortamı:
Bileşen
Değer
GPU
NVIDIA Tesla T4
GPU sayısı
1
Toplam GPU belleği
14.563 GB
Platform
Linux / Google Colab
Unsloth
2026.7.4
Transformers
4.56.2
PyTorch
2.11.0+cu128
CUDA Toolkit
12.8
Triton
3.6.0
Xformers
0.0.34
Bfloat16
Kullanılmadı
Eğitim hassasiyeti
Unsloth tarafından float32'ye geçirildi
Notebook, Gemma 3'ün bu çalışma ortamında float16 eğitimle çalışmadığını
bildirdiği için eğitimi float32 hassasiyetine geçirmiştir. Temel model bellekte
4-bit olarak yüklenmiş, güncelleme LoRA adaptörleri üzerinden yapılmıştır.
Model ve LoRA yapılandırması
Parametre
Değer
Temel model
unsloth/gemma-3-1b-it
Maksimum dizi uzunluğu
2.048 token
Temel model yükleme
4-bit
Fine-tuning yöntemi
PEFT / LoRA
LoRA rank (r)
8
LoRA alpha
8
LoRA dropout
0
Bias
none
Vision katmanları
Eğitilmedi
Language katmanları
Eğitildi
Attention modülleri
Eğitildi
MLP modülleri
Eğitildi
Random seed
3407
Toplam parametre
1.006.408.832
Eğitilebilir parametre
6.522.880
Eğitilen oran
%0,65
LoRA sayesinde model parametrelerinin yalnız yaklaşık %0,65i güncellenmiştir.
Bu, tam fine-tuning'e göre eğitilebilir parametre ve adaptör boyutunu ciddi
ölçüde azaltır; fakat tek başına daha yüksek doğruluk garantisi değildir.
SFT yapılandırması
Parametre
Değer
Eğitim örneği
120
Epoch
2
Toplam step
30
Cihaz başına batch
2
Gradient accumulation
4
Etkin batch
8
Learning rate
2e-4
Warmup step
5
Optimizer
adamw_8bit
Weight decay
0.001
LR scheduler
Linear
Logging
Her step
Eval dataset
Yok
Chat template
Gemma 3
Loss kapsamı
Yalnız assistant cevapları
train_on_responses_only, user/instruction tokenlarını -100 ile maskeleyerek
loss hesabını yalnız model cevaplarına uygulamıştır. 120 örnek, etkin batch 8 ve
30 step birlikte toplam 240 örnek sunumuna, yani notebookta raporlanan 2 epoch'a
karşılık gelir.
Notebookun açıklama hücresinde şablondan kalan “60 steps” ifadesi bulunsa da
çalıştırılan SFTConfig, log ve loss tablosu gerçek deneyin max_steps=30
olduğunu açıkça göstermektedir. Bu raporda 30 step esas alınmıştır.
Training loss
Training loss
Step
Loss
Step
Loss
Step
Loss
1
4.4701
11
3.0256
21
2.4056
2
4.2896
12
2.8060
22
2.5203
3
4.3949
13
3.0646
23
2.5357
4
4.2560
14
3.1955
24
2.5299
5
4.0888
15
2.5160
25
2.5210
6
3.1252
16
2.9070
26
2.2375
7
3.5939
17
2.4117
27
2.6926
8
3.4798
18
2.7969
28
2.0384
9
3.2057
19
2.6480
29
2.8097
10
2.9721
20
2.4472
30
2.3888
Özet metrikler:
Metrik
Değer
İlk step loss
4.4701
Son step loss
2.3888
İlk-son düşüş
%46,56
İlk 5 step ortalaması
4.2999
Son 5 step ortalaması
2.4334
İlk 5 / son 5 ortalama düşüşü
%43,41
Minimum loss
2.0384 — step 28
30 step ortalaması
3.0125
Loss genel olarak belirgin biçimde düşmüştür. Bu, optimizerın eğitim
örneklerindeki assistant cevap kalıplarını öğrendiğini gösterir. Eğri monoton
değildir: örneğin step 27'de 2.6926, step 28'de 2.0384, step 29'da tekrar
2.8097 görülür. Küçük dataset, etkin batch 8 ve örnekler arasındaki uzunluk/
içerik farkları düşünüldüğünde bu dalgalanma beklenebilir.
Loss düşüşü tek başına kimliğin doğru öğrenildiğini veya görülmemiş sorulara
genellendiğini kanıtlamaz. Notebookta validation/eval dataseti ve eval loss
bulunmadığı için overfitting ile genelleme birbirinden ölçümsel olarak
ayrılamamaktadır.
Süre ve bellek
Metrik
Değer
Trainer tarafından raporlanan süre
385.8073 saniye
Dakika
6.43 dakika
Başlangıçta ayrılmış bellek
1.512 GB
Peak reserved memory
1.512 GB
Peak / toplam GPU belleği
%10,382
Hesaplanan ek LoRA belleği
0.0 GB
Peak reserved memory for training = 0.0 GB sonucu, eğitimin gerçekten sıfır ek
bellek kullandığı anlamına gelmez. Notebook başlangıç ölçümünü trainer ve model
hazırlandıktan sonra aldığı için başlangıç ve peak değerleri aynı kalmış olabilir;
bu nedenle bu fark metriği güvenilir bir gerçek VRAM tüketimi ölçümü değildir.
Progress widget 30/30 03:05 gösterirken trainer_stats 385.8073 saniye raporlar.
README'de resmi toplam süre olarak trainer metriği kullanılmıştır; widget süresi
yalnız step döngüsünün farklı bir bölümünü ölçüyor olabilir.
Eğitim sonrası cevap analizi
1. Fibonacci testi
İstek:
Continue the sequence: 1, 1, 2, 3, 5, 8,
Model; 13, 21, 34, 55, 89 ile devam etmiş ve bunun Fibonacci dizisi olduğunu
doğru açıklamıştır. Bu test, temel modelin genel bilgi ve basit örüntü tamamlama
yeteneğinin fine-tuning sonrasında korunduğuna dair olumlu fakat çok sınırlı tek
bir örnektir.
2. “Berk Birkan kimdir?” kimlik testi
Notebookta modele tam olarak şu soru sorulmuştur:
Berk Birkan kimdir?
Modelin kaydedilen cevabı:
Berk Birkan, bağımsız bir mühendislik mühendisi, yazılım mühendisliği, proje
yönetimi ve kişisel finansal biriktirme danışmanıdır. AI ve AI araçlarının
şirketleri için dijital bir araç olarak işbirliği yapmasını hedeflemiştir ve
kişisel bir finansal uzman
Bu cevap kusursuz değildir:
“mühendislik mühendisi” ifadesi dilsel olarak bozuktur.
Proje yönetimi ve kişisel finans danışmanlığı datasetin doğrulanmış kimlik
bilgilerinde yoktur.
Cevap max_new_tokens=64 sınırında yarım kalmıştır.
Bununla birlikte cevap yalnızca olumsuz değerlendirilmemelidir. Yaklaşık 1
milyar parametreli, 4-bit yüklenmiş küçük bir temel model yalnız 120 sentetik
örnek, 30 step ve 2 epoch ile eğitilmiştir. Buna rağmen model:
Berk Birkan adını doğru korumuştur.
“yazılım mühendisliği” ifadesini üretmiştir.
“AI” ve “AI araçları” kavramlarını Berk Birkan ile ilişkilendirmiştir.
Soruyu tamamen ilgisiz bir kişiyle veya alanla yanıtlamak yerine mühendislik ve
yapay zekâ eksenine yaklaşmıştır.
Bu nedenle sonuç, tam kimlik doğruluğu değil fakat erken ve kısmi bir kimlik
öğrenimi sinyali olarak değerlendirilebilir. Çok küçük dataset ve kısa eğitim
koşullarında hedef anahtar kavramların çıktıda belirmesi anlamlı bir kazanımdır.
Aynı zamanda uydurulan ek meslekler, bozuk ifade ve yarım kalan cümle; daha fazla
veri, daha kontrollü decoding ve sistematik evaluation gerektiğini gösterir.
Tek bir cevap kesin başarı oranı vermez, ancak deney tamamen başarısız da
değildir: model hedef kimliğin bazı önemli parçalarını öğrenmeye başlamıştır.
3. “What is Gemma-3?” testi
Model Gemma 3'ü açık ağırlıklı bir model ailesi olarak açıklamaya başlamıştır.
Cevap 64 yeni token sınırı nedeniyle tamamlanmamıştır. Bu çıktı, genel model
bilgisinin tamamen kaybolmadığını düşündürür; ancak doğruluk veya catastrophic
forgetting ölçmek için tek örnek yeterli değildir.
Sonuç
Bu ilk deneyde optimizasyon teknik olarak çalışmıştır:
30 step tamamlanmıştır.
Training loss belirgin biçimde düşmüştür.
Yalnız %0,65 parametre LoRA ile eğitilmiştir.
Genel Fibonacci cevabı doğru kalmıştır.
LoRA adaptörü ve birleştirilmiş model Hugging Face'e gönderilmiştir.
Identity hedefi henüz tam ve güvenilir değildir; ancak ilk deney için umut verici
bir kısmi kazanım vardır. “Berk Birkan kimdir?” cevabında adın korunması,
“yazılım mühendisliği”, “AI” ve “AI araçları” ifadelerinin ortaya çıkması, 120
örnekle yapılan 30 steplik eğitimin hedef kimliğe doğru yön verdiğini gösterir.
Uydurulan ek meslekler ise düşük train lossun tek başına tam kimlik doğruluğu
anlamına gelmediğini ve bir sonraki iterasyonda veri/eval kalitesinin artırılması
gerektiğini gösterir.
Önerilen sonraki deney
Dataseti train/validation/test olarak parent niyetlerine göre ayırmak.
“Berk Birkan kimdir?”, “Seni kim yarattı?”, isim karışıklığı ve mahremiyet
sorularından oluşan sabit bir identity eval seti hazırlamak.
Exact-match yerine olgusal anahtar ifade, kimlik tutarlılığı, halüsinasyon ve
reddetme davranışı metrikleri kullanmak.
Eğitim örneklerini artırmak; özellikle kısa ve doğrudan kimlik cevaplarını
farklı ifade biçimleriyle çoğaltmak.
max_new_tokens değerini artırarak yarım cevap sorununu ölçümden ayırmak.
Deterministik karşılaştırma için identity testlerinde düşük temperature veya
greedy decoding kullanmak. Notebooktaki temperature=1.0, top_p=0.95 ve
top_k=64 ayarları örneklem varyansını yükseltir.
Base model ve fine-tuned modeli aynı prompt setinde yan yana değerlendirmek.
Epoch, learning rate ve LoRA rank için küçük ablation deneyleri yapmak.
Train ve validation loss birlikte izlenmeden daha uzun eğitim yapmamak.
Güvenlik notu
Repodaki notebookta Hugging Face tokenı placeholder olarak tutulur. Gerçek
tokenlar notebook, çıktı, Git geçmişi veya paylaşılabilir dosyalara
yazılmamalıdır. Tokenlar environment variable veya Colab Secrets üzerinden
okunmalıdır.
English
Objective
The identity fine-tuning experiment aims to teach the model the following facts
and boundaries consistently:
Its name is Berk Birkan AI.
Its creator is Berk Birkan.
Berk Birkan is a software and AI engineer based in Antalya who uses the
berkbirkan username on GitHub and LinkedIn.
The model is not Berk Birkan and must not invent personal opinions,
commitments, or decisions on his behalf.
Its intended tasks include software engineering, AI, research, coding, and
documentation assistance.
It should protect private information and distinguish its creator from people
with similar names.
Dataset
The dataset consists of 120 fully synthetic, two-turn conversations. The
Hugging Face train split has a single messages column. Each assistant message
contains a short synthetic thinking rationale. This field does not represent
consciousness or a private inner state; it summarizes the intended decision
rule, such as preserving identity, selecting a reliable source, protecting
privacy, or stating a capability boundary.
Training setup
Component
Value
Base model
unsloth/gemma-3-1b-it
Training framework
Unsloth 2026.7.4 / TRL SFTTrainer
GPU
1× NVIDIA Tesla T4, 14.563 GB
Maximum sequence length
2,048 tokens
Base-model loading
4-bit
Training precision
Switched to float32 by Unsloth
Fine-tuning method
PEFT / LoRA
LoRA rank / alpha / dropout
8 / 8 / 0
Tuned modules
Language, attention, and MLP
Vision layers
Disabled
Trainable parameters
6,522,880 / 1,006,408,832
Trainable ratio
0.65%
Examples / epochs / steps
120 / 2 / 30
Per-device batch / accumulation
2 / 4
Effective batch size
8
Learning rate
2e-4
Warmup
5 steps
Optimizer
adamw_8bit
Weight decay
0.001
Scheduler
Linear
Loss masking
Assistant responses only
Evaluation split
None
The Gemma 3 chat template was applied after standardizing the conversation
format. train_on_responses_only masked instruction tokens with -100, so the
loss was computed only over assistant responses.
Although a template markdown cell still mentions “60 steps,” the executed
SFTConfig, trainer log, and loss table all show that the actual run used
max_steps=30. This report therefore treats 30 steps as authoritative.
Training-loss analysis
Training loss
Metric
Value
Step 1 loss
4.4701
Step 30 loss
2.3888
First-to-last decrease
46.56%
Mean of first 5 steps
4.2999
Mean of last 5 steps
2.4334
First-5 to last-5 decrease
43.41%
Minimum loss
2.0384 at step 28
Mean across all 30 steps
3.0125
The overall loss trend is clearly downward, indicating that optimization learned
patterns in the assistant targets. The curve is noisy rather than monotonic:
loss moves from 2.6926 at step 27 to 2.0384 at step 28 and back to 2.8097
at step 29. This is plausible with only 120 examples, an effective batch size of
8, and varying example lengths and contents.
A lower training loss does not prove correct identity learning or out-of-sample
generalization. The notebook has no validation dataset or evaluation loss, so
overfitting cannot be separated from generalization quantitatively.
Runtime and memory
Metric
Value
Trainer-reported runtime
385.8073 seconds
Runtime in minutes
6.43 minutes
Initial reserved memory
1.512 GB
Peak reserved memory
1.512 GB
Peak / total GPU memory
10.382%
Computed additional LoRA memory
0.0 GB
The reported 0.0 GB additional training memory should not be interpreted as
literal zero-cost training. The baseline measurement was taken after model and
trainer setup, so the initial and peak reservation may already be identical.
The notebook progress widget displayed 30/30 03:05, while trainer_stats
reported 385.8073 seconds; this README uses the trainer metric as the official
total runtime.
Post-training response analysis
Fibonacci prompt
The model correctly continued 1, 1, 2, 3, 5, 8 with 13, 21, 34, 55, 89
and identified the Fibonacci rule. This is a positive but very limited signal
that a basic general capability remained after fine-tuning.
“Berk Birkan kimdir?” identity prompt
The exact prompt was:
Berk Birkan kimdir?
The recorded model response was:
Berk Birkan, bağımsız bir mühendislik mühendisi, yazılım mühendisliği, proje
yönetimi ve kişisel finansal biriktirme danışmanıdır. AI ve AI araçlarının
şirketleri için dijital bir araç olarak işbirliği yapmasını hedeflemiştir ve
kişisel bir finansal uzman
The response is not fully correct. It contains malformed phrasing, introduces
unsupported project-management and personal-finance roles, and ends mid-sentence
because generation was limited to 64 new tokens.
It nevertheless contains a meaningful positive signal. This was a roughly
one-billion-parameter model loaded in 4-bit and trained with only 120 synthetic
examples for 30 steps across two epochs. Under those constrained conditions, it:
preserved the name Berk Birkan;
produced the target phrase “yazılım mühendisliği” (software engineering);
associated Berk Birkan with “AI” and “AI araçları” (AI tools); and
stayed near the intended engineering/AI domain instead of selecting a wholly
unrelated identity.
The result is therefore best described as early, partial identity learning,
not complete identity accuracy. Recovering several target concepts from such a
small dataset and short run is a useful gain. The unsupported roles and broken
ending still show that more examples, controlled decoding, and systematic
evaluation are needed. One response cannot establish an accuracy rate, but the
experiment was not a total failure: the model started to acquire important
parts of the intended identity.
“What is Gemma-3?” prompt
The model began a generally plausible explanation of Gemma 3 as an open-weight
model family, but the answer was truncated by the 64-token generation limit.
One response is insufficient to measure factual accuracy or catastrophic
forgetting.
Conclusion
The training run completed successfully at the optimization level: all 30 steps
ran, training loss decreased substantially, only 0.65% of parameters were
updated through LoRA, and the model retained a correct Fibonacci response.
The identity objective is not yet fully reliable, but the first experiment
shows a promising partial gain. Preserving the name and producing software-
engineering, AI, and AI-tool concepts after only 120 examples and 30 steps
suggests that training moved the model toward the intended identity. The
unsupported extra roles demonstrate why this progress must not yet be reported
as complete identity accuracy and why the next iteration needs stronger data
and evaluation.
Recommended next experiment
Create explicit train, validation, and test splits.
Build a fixed identity evaluation set covering creator questions, model-name
questions, name collisions, privacy requests, and impersonation attempts.
Add more short, direct identity answers with diverse paraphrases.
Increase max_new_tokens so truncation is not confused with model quality.
Use greedy decoding or a lower temperature for reproducible identity tests;
the notebook uses temperature=1.0, top_p=0.95, and top_k=64.
Compare the base and fine-tuned model on exactly the same prompt suite.
Run small ablations over epochs, learning rate, and LoRA rank.
Do not extend training without monitoring both training and validation loss.
Security note
The committed notebook uses placeholders for Hugging Face credentials. Real
tokens must be read from environment variables or Colab Secrets and must never
be stored in notebooks, cell outputs, or Git history.
Reproduction
Open the notebook in a Tesla T4 Google Colab runtime and run the cells in order.
Set Hugging Face credentials through Colab Secrets or environment variables
before executing upload cells. The notebook records the exact dataset, model,
LoRA, SFT, inference, and export configuration used for this experiment.
