Views
No views yet
| 项目 | 说明 |
|---|---|
| 基础模型 | Qwen/Qwen2.5-3B-Instruct |
| 参数量 | 3B（BF16，约 5.76GB） |
| 训练方法 | QLoRA（4bit NF4 量化，rank=16, alpha=32）+ DPO 强化学习 |
| 训练数据 | 20,001 首中国古典诗歌（来源：自有诗集数据，43,011 首去重筛选） |
| 硬件环境 | RTX 4060 Laptop 8GB VRAM |
poetry_raw.jsonl（43,011 首古典诗歌，覆盖唐、宋等朝代多位诗人作品）请以《终南秋雪》为题，创作一首五言律诗。bitsandbytes），有效降低显存占用，适配 8GB VRAM 笔记本lora_target=allPrompt：请以《终南秋雪》为题，创作一首五言律诗。高卧北窗下，
偶兹霁景清。
白云满山色，
独鸟去无声。
阴壑凝虚白，
寒郊澹馀明。
悠然无俗虑，
浩思起冥冥。
Prompt：请以《夏日题岫禅师房》为题，创作一首五言律诗。闲室清阴在，
中轩纳远峰。
松花落酒满，
水月入茶浓。
独鹤归难见，
高僧礼不逢。
时将一瓢去，
何处访支公。
Prompt：请以《修史亭三首》为题，创作一首古体诗。何人开此亭，
置在修史间。
百代有遗业，
千钧无一闲。
孤峰出遥汉，
双涧落晴山。
自是尘外境，
岂关人事删。
Prompt：模仿李白的风格，创作一首古体诗，题目《出塞》。汉将归天马，
胡儿落日愁。
关山万里静，
旌节五陵秋。
剑匣神珠润，
烽台战士休。
何当投笔赋，
归奏报边筹。
1from transformers import AutoModelForCausalLM, AutoTokenizer
2
3model_id = "li134/Qwen2.5-3B-PoetryGen"
4tokenizer = AutoTokenizer.from_pretrained(model_id)
5model = AutoModelForCausalLM.from_pretrained(
6 model_id,
7 trust_remote_code=True,
8 torch_dtype="auto",
9 device_map="auto",
10)
11
12prompt = "请以《秋夜》为题，创作一首五言律诗。"
13messages = [{"role": "user", "content": prompt}]
14text = tokenizer.apply_chat_template(messages, tokenize=False, add_generation_prompt=True)
15inputs = tokenizer(text, return_tensors="pt").to(model.device)
16
17outputs = model.generate(
18 **inputs,
19 max_new_tokens=256,
20 do_sample=True,
21 temperature=0.9,
22 top_p=0.9,
23)
24print(tokenizer.decode(outputs[0][inputs.input_ids.shape[1]:], skip_special_tokens=True))