EE-Model-1.5B (Electronic Information Discipline Model)
全球首个电子信息学科轻量化大模型
赋能高校教研，基于昇腾端边云协同架构
模型概述 (Model Overview)
EE-Model-1.5B 是"鸿斛"电子信息专业引擎的核心组件之一，专为电子信息学科设计的轻量化语言模型。
针对该学科知识点复杂、技术迭代快、跨学科性强等痛点，我们构建了包含3万余条高质量数据的 EE-Bench 评测基准，并基于 昇腾 (Ascend) 全栈技术体系（MindSpore + MindIE + CANN）进行了全流程的训练与微调。
EE-Model-1.5B 专为 端侧/边侧 (Edge) 部署设计（如昇腾香橙派 OrangePi AIPro），拥有极致的推理速度和极低的资源占用，能够与云端大模型（EE-Model-72B）协同工作，实现智能路由与高效负载均衡。
核心亮点 (Key Features)
- 学科专精：填补了电子信息领域学科大模型的空白，涵盖"信号与系统"、"通信原理"、"数字信号处理"等八大核心课程。
- 端侧优化：1.5B 参数量经过知识蒸馏与剪枝，适配资源受限的边缘设备，支持快速响应简单任务与路由决策。
- 全栈国产化：从训练（Ascend 910B + MindSpore）到推理（MindIE），完全基于国产算力底座构建，安全可控。
- 多语言支持：支持中、英、法、德四国语言，面向全球学术交流场景。
训练数据 (Training Data)
本模型基于全球首个电子信息学科能力评测基准数据集 EE-Bench 进行微调。
- 数据规模：30,000+ 条高质量专业指令数据。
- 覆盖范围：涵盖 20+ 电子信息核心知识点体系。
- 题型多样：包含编程、单选、多选、计算、简答、判断、填空、证明、综合九大题型。
- 构建方式：基于 Mineru 自动化提取教材/真题 + 人工清洗 + 专家校验。
模型训练 (Model Training)
EE-Model-1.5B 的训练依托于 Ascend 910B 集群，利用 LLaMA-Factory 统一训练框架进行微调。
- 基础模型：Qwen2.5-1.5B (Base) / DeepSeek (Distilled)
- 硬件环境：Huawei Ascend 910B (NPU)
- 训练框架：MindSpore, MindSpeed
- 训练方法：
- SFT (Supervised Fine-Tuning)
- DPO (Direct Preference Optimization)
- Knowledge Distillation (from EE-Model-72B)
模型推理 (Inference)
本模型完美适配 MindIE 推理加速框架，也可通过 Hugging Face transformers 库进行通用推理。
快速开始 (Python)
1from transformers import AutoModelForCausalLM, AutoTokenizer
2import torch
3
4# 加载模型
5model_path = "HongHuTeam/EE-Model-1.5B"
6tokenizer = AutoTokenizer.from_pretrained(model_path)
7model = AutoModelForCausalLM.from_pretrained(
8 model_path,
9 device_map="auto",
10 torch_dtype=torch.float16
11)
12
13# 电子信息专业问题示例
14prompt = "请解释麦克斯韦方程组在电磁场理论中的物理意义。"
15messages = [
16 {"role": "system", "content": "你是一名电子信息学科的专业助教。"},
17 {"role": "user", "content": prompt}
18]
19
20text = tokenizer.apply_chat_template(
21 messages,
22 tokenize=False,
23 add_generation_prompt=True
24)
25
26model_inputs = tokenizer([text], return_tensors="pt").to(model.device)
27
28generated_ids = model.generate(
29 **model_inputs,
30 max_new_tokens=512
31)
32response = tokenizer.batch_decode(generated_ids, skip_special_tokens=True)[0]
33print(response)
昇腾 MindIE 部署 (Ascend MindIE)
针对昇腾硬件（如 OrangePi AIPro），建议使用 MindIE 进行高性能推理：
1# MindIE Service 启动示例
2# Coming Soon: 详细的 MindIE 配置文件和启动脚本将在后续更新中提供
模型效果 (Model Performance)
EE-Model-1.5B 在 EE-Bench 上展现了优秀的性能，特别是在处理基础概念问答和路由判别任务上。
| Model | Parameters | EE-Bench Score |
|---|
| EE-Model-72B | 72B | 94.70% |
| EE-Model-1.5B | 1.5B | 68.35% |
| GPT-4o | - | 71.00% |
| Qwen2.5-72B-Instruct | 72B | 70.12% |
| Qwen2.5-1.5B-Instruct | 1.5B | 45.28% |
注：EE-Model-1.5B 在同等参数量级下显著超越基座模型，且接近 GPT-4o 水平。1.5B 版本主要侧重于轻量化与边缘端快速响应。
应用场景 (Applications)
基于 端边云协同智能路由架构，EE-Model-1.5B 主要承担以下职责：
- L3-路由决策：精准判别用户提问的文本复杂度，决定任务是在本地处理还是上传云端。
- 简单任务速答：快速处理概念查询、名词解释等低算力需求任务。
- 本地隐私保护：在边缘端处理敏感数据，减少上云需求。
协议与引用 (License & Citation)
本项目遵循 Apache 2.0 开源协议。
如果您在研究中使用了本模型或数据集，请按如下格式引用：
1@misc{honghu2025eemodel,
2 title={EE-Model: Electronic Information Professional Engine based on Ascend},
3 author={Honghu Team},
4 year={2025},
5 publisher={GitHub/HuggingFace},
6 howpublished={\url{https://huggingface.co/HongHuTeam/EE-Model-1.5B}}
7}
免责声明 (Disclaimer)
虽然 EE-Model 在电子信息专业数据上进行了深度微调，但作为语言模型，它仍可能产生幻觉或错误信息。涉及电路设计、安全规范等关键决策时，请务必咨询专业人士或参考权威教材。
Last Update: 2025-12-07
Created by the Honghu Team (鸿斛战队)
