Views
No views yet
Qwen/Qwen3-8B-Base 的中文法律咨询 LoRA。模型使用 86 条经过审核的咨询样本进行 2 epoch、all-linear rank-64 QLoRA 微调。6.81 提升至 7.33，成对结果为 29 胜、11 平、10 负。这是研究阳性结果，不代表生产级法律可靠性；模型仍可能给出错误、过时或无依据的法律判断与法条引用。1from transformers import AutoModelForCausalLM, AutoTokenizer
2from peft import PeftModel
3
4adapter = "haofue2i1z3/Qwen3-8B-LegalConsult-Gold"
5base = "Qwen/Qwen3-8B-Base"
6
7tokenizer = AutoTokenizer.from_pretrained(adapter, trust_remote_code=True)
8model = AutoModelForCausalLM.from_pretrained(base, device_map="auto", torch_dtype="auto")
9model = PeftModel.from_pretrained(model, adapter)