openPangu-2.0-Flash 是基于昇腾 NPU 训练的大规模混合专家(MoE)语言模型,参数规模约 92B,每 token 激活参数规模约 6B,模型支持 512k 上下文长度,训练数据总量约34T tokens。后训练阶段完成快慢合一微调(SFT)、多专项强化学习(RL),并通过在线蒸馏(OPD)完成能力合一。openPangu-2.0-Flash-Int8 是 openPangu-2.0-Flash 的量化版本。
除文件中对开源许可证另有约定外,openPangu-2.0-Flash-Int8 模型根据 OPENPANGU MODEL LICENSE AGREEMENT VERSION 2.0 授权,旨在允许使用并促进人工智能技术的进一步发展。有关详细信息,请参阅模型存储库根目录中的
LICENSE 文件。
由于 openPangu-2.0-Flash-Int8 (“模型”)所依赖的技术固有的限制,以及人工智能生成的内容是由模型自动生成的,华为无法对以下事项做出任何保证: