from transformers import AutoTokenizer, AutoModelForCausalLM
from peft import PeftModel

base = AutoModelForCausalLM.from_pretrained("Qwen/Qwen2.5-7B-Instruct")
model = PeftModel.from_pretrained(base, "Lexiiiii/legalgpt-dpo-beta03")

项目

Base model: <a href="https://huggingface.co/Qwen/Qwen2.5-7B-Instruct" target="_blank" rel="noopener noreferrer" class="text-blue-400 hover:text-blue-300 underline underline-offset-2 transition-colors">Qwen/Qwen2.5-7B-Instruct
微调方式: LoRA（rank=32, alpha=64, target q_proj+v_proj），LLaMA-Factory
任务: 无 RAG 场景的法律咨询

完整训练历程见 LegalGPT 项目（SFT → DPO 完整链路，最终成果为 legalgpt-dpo-round5-v1）。