输入已切分的叙事单元,为每个 unit_id 标注类型。
ChatGPT Image 2026年7月4日 12_39_37
基座: Qwen3-8B-Novel-Base-SFT | 方法: LoRA r=64 α=128 | 硬件: A800 80GB
输入:
[1] "你怎么来了?"
[2] 她愣了一下。
[3] 其实我也不知道自己为什么会来。
输出:
{"labels": [
{"unit_id": "1", "type": "dialogue"},
{"unit_id": "2", "type": "action"},
{"unit_id": "3", "type": "thought"}
]}
1from transformers import AutoModelForCausalLM
2from peft import PeftModel
3
4base = AutoModelForCausalLM.from_pretrained(
5 "mikuhhn1239/qwen3-8b-novel-base-sft",
6 torch_dtype="auto", device_map="auto",
7)
8model = PeftModel.from_pretrained(
9 base, "mikuhhn1239/qwen3-8b-narrative-parsing-lora"
10)
基座: Qwen3-8B-Novel-Base-SFT (Stage1 全参 SFT, 72K 小说续写数据)
方法: LoRA (r=64, α=128, dropout=0.05)
数据: 616 条 (577 train / 39 val / 39 test)
框架: transformers Trainer + PEFT
优化器: AdamW (adamw_torch_fused), cosine schedule, warmup=5%
epoch: 5 | LR: 1e-4 | batch: 1×16(accum) | bf16 | max_length: 4096