You can deploy this model and start earning money today!

er6y/
bge-reranker-v2-m3_dynamic_int8_onnx

Name: bge-reranker-v2-m3_dynamic_int8_onnx
Availability: InStock

Views

No views yet

license: apache-2.0 language:

en
zh library_name: onnxruntime tags:
reranker
information-retrieval
onnx
quantized
int8
bge
sentence-transformers model-index:
name: bge-reranker-v2-m3 results:
- task: type: reranking dataset: type: custom metrics:
  - type: ndcg@10 value: 0.xx

BGE Reranker v2 M3 (Dynamic INT8 ONNX)

这是 BAAI/bge-reranker-v2-m3 模型的动态 INT8 量化 ONNX 版本，专为高效推理而优化。

BGE Reranker v2 M3 是一个强大的多语言重排序模型，支持中文和英文文本的语义重排序任务。该版本经过动态 INT8 量化，在保持高精度的同时显著减少了模型大小和推理时间。

bash

pip install onnxruntime
pip install transformers
pip install numpy