Model, sıfırdan eğitilmiş özel bir BPE tokenizer kullanmaktadır. Hugging Face'in hazır tokenizer'larından bağımsız olarak geliştirilmiştir.
1from transformers import AutoModelForCausalLM, AutoTokenizer
2import torch
3
4model_id = "SykoSLM/SykoLLM-V5.8-Mini"
5
6tokenizer = AutoTokenizer.from_pretrained(model_id, trust_remote_code=True)
7model = AutoModelForCausalLM.from_pretrained(
8 model_id,
9 torch_dtype=torch.float16,
10 device_map="auto",
11 trust_remote_code=True
12)
13
14prompt = "Türkiye'nin başkenti"
15inputs = tokenizer(prompt, return_tensors="pt").to(model.device)
16
17with torch.no_grad():
18 outputs = model.generate(
19 **inputs,
20 max_new_tokens=200,
21 temperature=0.7,
22 top_p=0.9,
23 do_sample=True,
24 eos_token_id=tokenizer.eos_token_id,
25 pad_token_id=tokenizer.pad_token_id
26 )
27
28print(tokenizer.decode(outputs[0], skip_special_tokens=True))
1prompt = "<|user|>\nPython'da Fibonacci dizisini nasıl yazarım?<|end|>\n<|assistant|>\n"
2
3inputs = tokenizer(prompt, return_tensors="pt").to(model.device)
4outputs = model.generate(
5 **inputs,
6 max_new_tokens=300,
7 do_sample=True,
8 temperature=0.7,
9 top_p=0.9
10)
11print(tokenizer.decode(outputs[0], skip_special_tokens=True))
Bu model Apache 2.0 lisansı altında yayınlanmıştır.
1@misc{sykollm-v5.8-mini-2025,
2 author = {SykoSLM},
3 title = {SykoLLM-V5.8-Mini: A Small Multilingual Causal Language Model Trained from Scratch},
4 year = {2025},
5 publisher = {HuggingFace},
6 url = {https://huggingface.co/SykoSLM/SykoLLM-V5.8-Mini}
7}
