CTranslate2 float16 量化版,从 google/madlad400-3b-mt 转换。 ooeoeo 桌面 Engine 用它在用户机器上做 419 语言方向离线翻译。

ct2-transformers-converter --model google/madlad400-3b-mt --quantization float16 转换时用 transformers==4.40.0(5.x 会破坏 tied weight)。

Apache 2.0(继承自 google/madlad400-3b-mt)