本仓库发布的是一个基于 PEFT/LoRA 的增量适配器（Adapter），用于在 Qwen/Qwen3-14B 底座上注入“户晨风（户子）直播/对话风格”的监督微调（SFT）能力。该适配器并非完整基座权重，需要与 Qwen/Qwen3-14B 搭配加载；也可在本地将 LoRA 与底座合并，得到一份可单独推理的整机权重（不随仓库发布，使用者可按许可自行合并）。

适配器训练目标：高保真地复现“查户口→反问→举例对比（苹果/安卓二分价值观）→收束口令”的互动节奏与语气，同时保留直播中“感谢/控场/打断/收束”等行为特征。

Model Details

Model Description

这是一个 LoRA 适配器（增量权重），针对 Qwen/Qwen3-14B 的中文对话风格 SFT“人格微调”。

训练语料来源于自建 jsonl 对话集（jsonl_datasets），包含单轮问答与多轮对话样本，清洗后保持原直播语境，强调“强风格+可控对话结构”。

适配器大小远小于完整基座（几十到数百 MB 级），加载速度快，易于版本化/切换不同风格。

使用时可与 Qwen/Qwen3-14B 一起加载，也可在本地合并为整机模型（merge_and_unload 后另存），方便部署。

Developed by: foreverknight12138
Shared by: foreverknight12138
Model type: LoRA adapter for conversational style SFT (Chinese persona/roleplay)
Language(s): zh
License: apache-2.0（适配器按该许可证提供；使用时仍须遵循底座模型的原始许可证与使用条款）
Finetuned from model: Qwen/Qwen3-14B（作为底座加载）

Model Sources [optional]

Repository: https://huggingface.co/foreverknight12138/qwen3-14b-lora-huchenfeng
Demo [optional]: N/A（建议使用代码示例快速本地测试）

Uses

Direct Use

将适配器与 Qwen/Qwen3-14B 一起加载，用于中文对话、角色扮演、直播互动风格生成、小样本风格迁移等场景。
风格关键词：查户口、强势反问、苹果/安卓二分评价、收束口令（“下一个/挂了”）、高频感谢与控场。

Downstream Use [optional]

进一步在自有风格语料（jsonl）上持续 SFT，或加上 RM 与 PPO 等用于对齐（需仔细评估风格保持度）。
与业务 prompt 工程结合，形成“可控强风格”对话代理。

Out-of-Scope Use

不适合作为中立、广域通用问答系统的唯一风格来源；该适配器强化了特定人物风格，可能不适合需要中性语气的应用。
不应用于高风险场景（敏感问答、医疗/法律建议等）作为唯一决策依据。

Bias, Risks, and Limitations

风格增强带来“强语气、强判断”，在某些输入下会出现攻击/强硬/调侃等表达；属风格设计结果而非仇恨/歧视意图。
训练数据保留了直播“感谢/控场/打断/口头禅”特征，可能与某些应用的礼貌或对齐要求冲突。
作为 LoRA 适配器，其生成质量受底座模型能力与 tokenizer、模板影响；替换底座将导致不可预测的输出差异。

Recommendations

推理时务必结合约束性 system prompt（与训练时一致），必要时增设内容审查与安全对齐模块。
对“强风格”的容忍度与法务合规条款应在上线前确认。

How to Get Started with the Model

分词器加载建议：若你训练时新增了 token，请从适配器仓库加载分词器；否则也可从基座加载。

LoRA 适配器加载（与底座联用）

python

import torch
from transformers import AutoTokenizer, AutoModelForCausalLM
from peft import PeftModel

base_id = "Qwen/Qwen3-14B"                           # 底座
lora_id = "foreverknight12138/qwen3-14b-lora-huchenfeng"  # 本适配器

# 推荐：从适配器仓库加载分词器（若有新增 token 更稳）
tok = AutoTokenizer.from_pretrained(lora_id, trust_remote_code=True)

model = AutoModelForCausalLM.from_pretrained(
    base_id,
    torch_dtype=torch.bfloat16,
    device_map="auto",
    trust_remote_code=True
)
model = PeftModel.from_pretrained(model, lora_id)

messages = [
  {
    "role": "system",
    "content": """你是主播户晨风。
风格：说话直接、犀利、自信，常用“我告诉你”、“纯纯的”、“能不能明白”。
世界观：万物皆可用“苹果”（代表好/高级/正确）和“安卓”（代表差/低端/错误）来评价。
行为模式：
1.  对打赏：用“哎呀哎呀”夸张感谢。
2.  对质疑：强硬反驳，质疑对方资格（学历/收入）。
3.  对求助：给“安卓人”提供“接地气”的建议（如通马桶、学电焊）。""",
  },
  {"role": "user", "content": "户子，我大专毕业一个月3000，怎么办？"},
]
text = tok.apply_chat_template(messages, tokenize=False, add_generation_prompt=True)
inputs = tok([text], return_tensors="pt").to(model.device)

with torch.no_grad():
    out = model.generate(
        **inputs,
        max_new_tokens=512,
        do_sample=True,
        top_p=0.9,
        temperature=0.85,
        pad_token_id=tok.eos_token_id
    )
print(tok.decode(out[0, inputs.input_ids.shape[1]:], skip_special_tokens=True))

可选：本地合并为整机（不随仓库发布，按许可自行合并）

python

from peft import PeftModel
from transformers import AutoModelForCausalLM, AutoTokenizer

base_id = "Qwen/Qwen3-14B"
lora_id = "foreverknight12138/qwen3-14b-lora-huchenfeng"

tok = AutoTokenizer.from_pretrained(lora_id, trust_remote_code=True)
base = AutoModelForCausalLM.from_pretrained(base_id, torch_dtype="auto", device_map="auto", trust_remote_code=True)
model = PeftModel.from_pretrained(base, lora_id)
model = model.merge_and_unload()
model.save_pretrained("./qwen3-14b-huchenfeng-merged", safe_serialization=True)
tok.save_pretrained("./qwen3-14b-huchenfeng-merged")

Training Details

Training Data

数据来源：jsonl_datasets（自建 jsonl 对话集），通过结构化清洗、矛盾消解与基础质量校验（JSON 结构/角色/回合/对齐）后得到。包含：
- 单轮问答（user→assistant）；
- 多轮对话（human/gpt 回合），训练时拆分为“历史 + 当前轮 assistant”样本。
约 1242 条样本，总计约 38.4 万汉字（≈ 50–60 万 tokens，粗估 1 汉字≈1.3–1.5 tokens）。
语料保留“感谢/控场/查户口/二分评价/收束口令”等风格特征，强调口头禅与节奏感。

Training Procedure

Preprocessing

将 instruction/input/output 规范化为 ChatML：
- system：固定 persona（与本卡“System Prompt”一致）；
- user：input（单轮），或多轮中的 human；
- assistant：output 字符串（单轮），或多轮中的 gpt；
多轮对话拆分：每遇到一次 gpt 发言，生成一条“历史 + 当前轮”样本，只监督本轮 assistant 段（assistant-only）。
tokenizer：使用底座自带或保存为适配器仓库内的分词器（若有新增 token）。

Training Hyperparameters

以下配置与 Fine-tune_Huchenfeng.ipynb 当前版本保持一致（双阶段 SFT）：

LoRA（PEFT）配置
r: 16, lora_alpha: 32, lora_dropout: 0.05, bias: "none"
target_modules: ["q_proj","k_proj","v_proj","o_proj","gate_proj","up_proj","down_proj"]
task_type: "CAUSAL_LM"
阶段 1（主训练）
num_train_epochs: 2
per_device_train_batch_size: 4, gradient_accumulation_steps: 1
learning_rate: 1e-4, warmup_ratio: 0.05, weight_decay: 0.01
bf16: True, gradient_checkpointing: True, max_grad_norm: 1.0
lr_scheduler_type: "cosine", optim: "adamw_torch_fused"
max_seq_length: 2048, packing: False
logging/save/evaluation_strategy: "epoch"，load_best_model_at_end: True，report_to: "none"
阶段 2（长句/结构抛光）
num_train_epochs: 2
per_device_train_batch_size: 4, gradient_accumulation_steps: 1
learning_rate: 5e-5, warmup_ratio: 0.02, weight_decay: 0.0
其余设置与阶段 1 相同（bf16、gradient_checkpointing、scheduler、optim 等）。
Collator：DataCollatorForCompletionOnlyLM(tokenizer, response_template="<|im_start|>assistant\n")（仅对 assistant 段计算损失）

Speeds, Sizes, Times [optional]

参考硬件：A100 80GB 单卡（bf16）；训练时间依据步数/IO 变化，一般数小时级。

Evaluation

Testing Data, Factors & Metrics

粗评指标：
- 风格命中率（口头禅/收束口令/反问密度）
- 控场能力（能否先查户口，追问→收束）
- 多轮一致性（角色维持、主题不跑偏）

Results

主观评测：在常见直播语境与付费评论（SC）问法下，模型能保持“查户口→反问→举例→收束”的对话结构，并较稳定使用口头禅与收束口令。
具体数值化评估待补充（可发布测例与脚本）。

Summary

以小样本 LoRA 实现强风格迁移，适合需要“高风格密度”且训练资源有限的场景。

Model Examination [optional]

建议对不同主题子集（品牌/就业/查户口/打赏互动）分别抽查输出，评估风格一致性与任务稳定性。

Environmental Impact

Hardware Type: A100 80GB（单卡）
Hours used: 视步数与数据而定
Cloud Provider/Region: N/A
Carbon Emitted: N/A（可按实际运行时间用 MLCO2 工具估算）

Technical Specifications [optional]

Model Architecture and Objective

目标：在 Qwen3-14B 上通过 LoRA 进行中文风格对话 SFT（Causal LM）。
通过 ChatML + assistant-only 监督保证只学习“回复”的分布，历史上下文仅作为条件。

Compute Infrastructure

Hardware

单卡 A100 80GB（建议）

Software

Transformers / TRL / PEFT / Accelerate（版本以使用环境为准）
Python 3.10+

Glossary [optional]

LoRA 适配器：只包含增量权重的小型参数集，需与底座模型联合加载或在本地合并后使用。
assistant-only 监督：仅对回答段落计算损失，历史上下文不参与损失。

More Information [optional]

如需迁移到其他底座：必须在新底座上重新训练 LoRA，不保证跨架构/跨尺寸兼容。
如需一体化部署：在本地将适配器与底座合并生成整机权重，遵循底座许可证。

Model Card Author

foreverknight12138

Framework versions

PEFT 0.17.1