Views
No views yet
⚠️ Bu model henüz eğitilmemiştir. Mimari oluşturulmuş ve ağırlıklar rastgele initialize edilmiştir.
| Parametre | Değer |
|---|---|
| Vocab Size | 32,000 |
| Hidden Size | 768 |
| Num Hidden Layers | 24 |
| Num Attention Heads | 6 |
| Intermediate Size | 3,072 |
| Max Position Embeddings | 2,048 |
| Attention | Scaled Dot-Product (SDPA) |
| Positional Encoding | RoPE |
| Normalization | RMSNorm |
| Activation | SwiGLU |
ğ ü ş ı ö ç İ Ğ Ü Ş Ö Ç) tam desteklenmektedir.| Token | ID | Açıklama |
|---|---|---|
<pad> | 0 | Padding |
<bos> | 1 | Sequence başlangıcı |
<eos> | 2 | Sequence sonu |
<unk> | 3 | Bilinmeyen token |
<sep> | 4 | Segment ayırıcı |
<cls> | 5 | Classification token |
<mask> | 6 | Mask token |
<sys> / </sys> | 7 / 8 | Sistem promptu |
<user> / </user> | 9 / 10 | Kullanıcı mesajı |
<assistant> / </assistant> | 11 / 12 | Asistan cevabı |
<tr> / <en> | 13 / 14 | Dil etiketleri |
<think> / </think> | 15 / 16 | Düşünce zinciri |
<code> / </code> | 17 / 18 | Kod bloğu |
!pip install syko-llm1!pip install syko-llm
2import sys
3sys.path.insert(0, ".")
4from transformers import AutoTokenizer
5
6# Tokenizer
7tokenizer = AutoTokenizer.from_pretrained("SykoSLM/SykoLLM-UnTrained")
8
9# Model (syko_model.py gereklidir)
10from syko import SykoConfig, SykoCausalLM
11config = SykoConfig.from_pretrained("SykoSLM/SykoLLM-UnTrained")
12model = SykoCausalLM(config)