Views
No views yet

| Faza | LR | Scheduler | Kroki | Cel |
|---|---|---|---|---|
| I | 2e-4 | linear | 1500 | Wstępne opanowanie formatu CoT |
| II | 3e-5 | constant | 1500 | Konsolidacja wiedzy i rozumowania |
| III | 1e-5 | cosine | 1500 | Szlif — precyzja i głębia |
| IV | humanistyczny | constant | 1500 | Dusza — język, finezja, polot |
<think> — architektura stworzona do rozumowania.<think><|im_start|>user
Twoje pytanie tutaj<|im_end|>
<|im_start|>assistant
<think>
...rozumowanie modelu...
</think>
Odpowiedź| Plik | Rozmiar | Zastosowanie |
|---|---|---|
| Cerberus-4b.F16.gguf | ~8.0 GB | Referencyjna, pełna precyzja |
| Cerberus-4b.Q8_0.gguf | ~4.3 GB | Wysoka jakość |
| Cerberus-4b.Q6_K.gguf | ~3.3 GB | Zalecana — jakość vs rozmiar |
| Cerberus-4b.Q5_K_M.gguf | ~2.9 GB | Dobry balans |
| Cerberus-4b.Q5_K_S.gguf | ~2.7 GB | Szybsza wersja Q5 |
| Cerberus-4b.Q4_K_M.gguf | ~2.5 GB | Codzienny użytek |
| Cerberus-4b.Q4_K_S.gguf | ~2.4 GB | Lekka wersja Q4 |
| Cerberus-4b.IQ4_XS.gguf | ~2.2 GB | Minimalistyczna |
| Cerberus-4b.Q3_K_M.gguf | ~1.9 GB | Urządzenia mobilne |
1llama-cli \
2 -m Cerberus-4b.Q6_K.gguf \
3 -p "<|im_start|>user\nCzym jest absurd według Camusa?<|im_end|>\n<|im_start|>assistant\n" \
4 -n 512 \
5 --temp 0.7 \
6 --repeat-penalty 1.1| Kwantyzacja | Min. VRAM / RAM |
|---|---|
| Q4_K_M | 4 GB |
| Q6_K | 6 GB |
| Q8_0 | 8 GB |
| F16 | 16 GB |