基于 BERT 的中文情感分析系统项目报告

Project Report: BERT-based Chinese Sentiment Analysis System 此文档旨在辅助生成项目汇报 PPT，详细记录了从 0 到 1 的构建全过程。

1. 项目背景与目标 (Project Background & Goals)

1.1 背景

1.2 核心目标

1. 高精度模型：基于预训练 BERT 模型进行微调 (Fine-tuning)，实现对中文评论的精准分类。
2. 多领域覆盖：融合通用语料 (clapAI) 与垂直领域语料 (中医/电商)，提升泛化能力。
3. 全流程落地：包含数据清洗、模型训练、可视化监控、Web 交互演示及云端部署支持。

2. 技术架构 (Technical Architecture)

3. 详细实施步骤 (Implementation Steps)

步骤一：环境搭建与硬件适配 (Environment Setup)

• 挑战：在 Mac Mini (M系列芯片) 上实现高效训练。
• 解决方案：利用 PyTorch 的 mps 后端，代码中实现了自动设备检测逻辑：优先使用 MPS (Mac)，其次 CUDA (NVIDIA)，最后 CPU。
• 成果：在 Mac 本地环境下成功开启硬件加速，大幅缩短训练时间。

步骤二：数据工程 (Data Engineering)

• 多源异构数据融合：
  • 通用数据：clapAI/MultiLingualSentiment (筛选中文部分)。
  • 垂类数据：OpenModels/Chinese-Herbal-Medicine-Sentiment (医疗/电商领域)。
• 数据清洗管道 (src/dataset.py)：
  • 剔除无效评论（如“默认好评”、“无填写内容”）。
  • 过滤过短文本（长度 < 2）。
  • 标签统一：将不同数据集的标签统一映射为标准格式：0 (Negative), 1 (Neutral), 2 (Positive)。
• 优化：实现了 多进程 (Multiprocessing) 数据处理，利用多核 CPU 加速 Tokenization（分词）过程。

步骤三：模型训练与微调 (Model Training)

• 策略：全参数微调 (Full Fine-tuning)。
• 配置：Batch Size 32, Learning Rate 2e-5, Epochs 3。
• 智能特性：
  • 实时监视 (src/monitor.py)：专门编写监控脚本，读取 Checkpoint 日志，实时输出 Loss 和 Accuracy 变化。
  • 断点续训：支持从最新的 Checkpoint 恢复训练，防止意外中断导致前功尽弃。
  • 云端适配 (train_cloud.py)：生成了独立的单文件训练脚本，支持一键上传至 AutoDL/Colab 等云服务器，自动下载数据并利用 CUDA 极速训练。

步骤四：结果可视化与评估 (Visualization & Eval)

• 指标：Accuracy (准确率), F1-Score (F1分数), Precision, Recall。
• 可视化 (src/visualization.py)：
  • 数据分布图：通过饼图展示正负样本比例，确保数据平衡。
  • 训练曲线：自动绘制 Loss 下降曲线和 验证集 Accuracy 上升曲线，直观判断模型收敛情况。

步骤五：应用交付 (Deployment)

• Web 演示 (demo/web_demo.py)：
  • 开发了基于 Gradio 的 Web 界面。
  • 支持用户输入任意中文文本，实时返回情感倾向及置信度分数。
  • 包含预设样例，方便快速测试。
• 交互式教程 (notebooks/)：提供了详细注释的 Jupyter Notebook，用于教学和演示完整流程。

4. 项目亮点 (Project Highlights)

1. 跨平台兼容：一套代码同时完美支持 Mac (MPS) 和 Linux/Windows (CUDA)。
2. 工程化规范：目录结构清晰 (src, data, results, checkpoints)，模块化设计高。
3. 用户体验：
   • 训练过程不仅有进度条，还有专门的 Monitor 脚本。
   • Web 界面美观易用，支持详细的分数展示。
   • 云端脚本 train_cloud.py 极大降低了部署门槛。

5. 成果展示 (Results)

• 训练效果：在验证集上 Accuracy 稳步提升（具体数值参考 Monitor 输出）。
• 演示界面：Web UI 成功运行，能够准确识别“物流太慢”（消极）和“强烈推荐”（积极）等语义。

6. 如何运行 (Quick Start)

1. 本地训练: python -m src.train
2. 开启监控: python src/monitor.py
3. 启动演示: python demo/web_demo.py