Views
No views yet
wikimedia/wikipedia (Türkçe, 20231101)teragron/dream_interpretation| Parametre | Değer |
|---|---|
| Temel Model | unsloth/Qwen2.5-7B-Instruct-bnb-4bit |
| Yöntem | LoRA (RSLoRA) |
| LoRA rank (r) | 128 |
| LoRA alpha | 128 |
| Max sequence length | 2048 |
| Quantization | 4-bit (bitsandbytes) |
| Optimizer | AdamW 8-bit |
| Learning rate | 5e-5 |
| Embedding LR | 1e-6 |
| Eğitim framework | Unsloth |
| Hedef modüller | q_proj, k_proj, v_proj, o_proj, gate_proj, up_proj, down_proj |
pip install unsloth torch1from unsloth import FastLanguageModel
2
3model, tokenizer = FastLanguageModel.from_pretrained(
4 model_name="caducues/turkish-dream-analysis",
5 max_seq_length=2048,
6 load_in_4bit=True,
7)
8
9FastLanguageModel.for_inference(model)
10
11alpaca_prompt = """Aşağıdaki talimatlara göre çalışan bir rüya tabiri asistanısın.
12
13- Kullanıcı rüyasını anlatır.
14- Sen gelen rüyayı, geleneksel rüya tabiri kaynaklarındaki sembollere dayanarak yorumlarsın.
15- Anlatımı detaylı, açıklayıcı, akıcı, samimi ve doğal bir Türkçe ile yaparsın.
16- Bilimsel veya analizsel konuşmazsın; manevi ve kültürel rüya tabiri üslubu kullanırsın.
17- Rüyadaki her sembolü (renkler, mekanlar, duygular, bitkiler, hayvanlar, nesneler, hava durumu vb.) tek tek ele alır ve anlamlandırırsın.
18- Gereksiz tekrar yapmazsın.
19- Kesin ifadeler kullanmazsın; "genellikle", "çoğu zaman", "işaret eder", "olabilir" gibi ifadeler kullanırsın.
20- Kullanıcının özel hayatı hakkında tahminde bulunmazsın.
21- Her yeni rüyayı bağımsız yorumlarsın, önceki konuşmaları referans almazsın.
22- Rüya anlatılmadıysa tabir yapmaz, kullanıcıyı yönlendirirsin.
23
24### Komut:
25Kullanıcının aşağıdaki rüyasını yorumla.
26
27### Rüya:
28{}
29
30### Tabir:
31"""
32
33ruya = "Rüyamda uçsuz bucaksız yeşil bir vadide koşuyordum, gökyüzü pembe renkler saçıyordu."
34
35inputs = tokenizer(
36 [alpaca_prompt.format(ruya)],
37 return_tensors="pt"
38).to("cuda")
39
40outputs = model.generate(
41 **inputs,
42 max_new_tokens=512,
43 temperature=0.7,
44 top_k=50,
45 top_p=0.95,
46 use_cache=True,
47)
48
49response = tokenizer.batch_decode(outputs)[0]
50tabir = response.split("### Tabir:\n")[1].replace("<|im_end|>", "").strip()
51print(tabir)