WD ConvNext Tagger v3 RKNN2

(English README see below)

• 推理速度(RK3588):
  • 单NPU核: 320ms
• 内存占用(RK3588):
  • 0.45GB

使用方法

1. 克隆或者下载此仓库到本地
2. 安装依赖

1. 运行

模型转换

1. 安装依赖

1. 下载原始onnx模型
2. 转换onnx模型到rknn模型:

已知问题

• int8量化后精度损失极大, 基本不可用. 不建议使用量化推理.

参考

• SmilingWolf/wd-convnext-tagger-v3

English README

• Inference Speed (RK3588):
  • Single NPU Core: 320ms
• Memory Usage (RK3588):
  • 0.45GB

Usage

1. Clone or download this repository
2. Install dependencies

1. Run

Model Conversion

1. Install dependencies

1. Download original onnx model
2. Convert onnx model to rknn model:

Known Issues

• Huge precision loss after int8 quantization, not recommended to use quantized inference.

References

• SmilingWolf/wd-convnext-tagger-v3