1models/axmodels_650/ AX650 量化模型
2models/onnxmodels/ 默认 static320 FP32 decode ONNX
3bin/moss_tts_ax650/ C++ 可执行文件和 ONNX Runtime 库
4config/ tokenizer 和推理元数据
5python/ Python 推理入口
6scripts/ Python 运行时辅助模块
7configuration.json 模型运行配置
8config.json Hugging Face 发布规范配置,内容为 {}
1python3 -m pip install -r requirements.txt
2python3 -c "import axengine, onnxruntime, numpy, sentencepiece; print('runtime OK')"
1python3 python/infer_moss_tts.py \
2 --config-dir config \
3 --axmodel-dir models/axmodels_650 \
4 --onnx-dir models/onnxmodels \
5 --text "你好,今天是美好的一天。" \
6 --voice Junhao \
7 --sample-mode fixed \
8 --prefill-backend axmodel \
9 --local-fixed-backend axmodel \
10 --decode-backend onnx \
11 --output-audio-path outputs/python.wav
1bash run_ax650.sh \
2 --text "你好,今天是美好的一天。" \
3 --voice Junhao \
4 --output-wav outputs/moss_tts.wav \
5 --output-log outputs/moss_tts.log
1tts_prefill.axmodel
2→ tts_local_fixed_sampled_frame.axmodel
3→ models/onnxmodels/moss_tts_decode_step.onnx(static320 FP32,CPU)
4→ codec_decode.axmodel