Bu proje, Transformer mimarisine dayalı, saf Python ile yazılmış bir yapay sinir ağı kullanan Türkçe metin üreticisidir. PyTorch veya NumPy dahil hiçbir kütüphane kullanılmamıştır. Model, verilen başlangıç kelimesinden başlayarak yeni metinler üretebilir. Sürekli güncellenecek ve geliştirilecektir.
Proje Özellikleri
Transformer Mimarisi: Multi-head attention mekanizması ile gelişmiş metin işleme
Pozisyonel Kodlama: Token pozisyonlarını modellemek için positional encoding
Layer Normalization: Ağ katmanlarında normalizasyon
Geri Yayılım Algoritması: Backpropagation ile eğitim
Model Kaydı/Yükleme: Eğitilmiş modeli kaydetme ve yükleme özelliği
Metin Üretimi: Eğitilmiş model ile dinamik metin üretme
Dosya Yapısı
├── app.py # Ana uygulama - model eğitimi ve metin üretimi
├── sinir_agi.py # Sinir ağı mimarisi ve yapı tanımları
├── model.py # İleri geçiş (forward pass) işlemleri
├── egitim.py # Eğitim algoritmaları ve loss fonksiyonları
├── egitim_dongusu.py # Eğitim döngüsü ve metin üretim fonksiyonları
├── islemler.py # Matematiksel işlemler (çarpım, softmax, vb.)
├── kaydet.py # Model kaydı ve yükleme işlemleri
├── rastgele.py # Rastgele sayı üretimi ve matematiksel fonksiyonlar
├── veri.txt # Eğitim verisi (Türkçe metinler)
├── model.json # Kaydedilmiş model ağırlıkları
├── teste.py # Test kodları
└── README.md # Bu dosya
Nasıl Kullanılır
Gereksinimleri
Python 3.7 veya daha yüksek bir sürüm gereklidir. Harici kütüphane bağımlılığı yoktur.