Views
No views yet
⚠️ 本仓库已归档，仅保留下载记录。请使用以下新仓库，三个版本均已内置 GGUF。
| 模型 | LoRA | 方法 | 仓库 |
|---|---|---|---|
| SFT (初版) | r=8, a=8 | SFT | Yukari-SFT |
| SFT (改进) | r=32, a=64 | SFT | Yukari-SFT-v2 |
| DPO (对齐) | r=32, a=64 | SFT+DPO | Yukari-DPO |
1from llama_cpp import Llama
2
3model = Llama(model_path="qwen3-1.7b-yukari-f16.gguf", n_ctx=2048, n_gpu_layers=-1)
4
5# 情绪标签控制语气，8 维 Plutchik 离散化标签
6tags = "[<|中度喜悦|><|轻微愤怒|><|轻微悲伤|><|无恐惧|><|无厌恶|><|无惊讶|><|轻微信任|><|中度期待|>]"
7prompt = f"{tags}\n你觉得人类最有趣的地方是什么？"
8
9response = model.create_chat_completion(
10 messages=[{"role": "user", "content": prompt}],
11 max_tokens=200, temperature=0.8
12)
13print(response["choices"][0]["message"]["content"])