Royal ZhTW-ID Q2_K - Quantized Translation Model

模型詳情

• 格式: GGUF
• 量化: Q2_K (極度壓縮量化)
• 架構: Llama
• 大小: ~2.80GB (相較原版 F16 減少約 80% 大小)
• 語言: 繁體中文 (zh-TW) ↔ 印尼文 (ID) 雙向翻譯
• 原始模型: roylin1003/royal-zhTW-ID-f16.gguf
• 量化工具: llama-quantize (llama.cpp)

量化資訊

• 極大幅度減少記憶體使用量
• 適合資源極其有限的環境
• 非常快的推理速度
• 在極小模型尺寸下仍保持可用的品質

使用方式

Ollama

llama.cpp

Python (llama-cpp-python)

LM Studio

翻譯範例

繁體中文 → 印尼文

輸入: 請將以下繁體中文翻譯成印尼文
然而面臨到期債務壓力，可能影響其獲得補助的資格。
輸出: Namun, tekanan dari utang yang jatuh tempo dapat memengaruhi kelayakannya untuk menerima subsidi tersebut.

印尼文 → 繁體中文

輸入: 請將以下印尼文翻譯成繁體中文
Namun, tekanan dari utang yang jatuh tempo dapat memengaruhi kelayakannya untuk menerima subsidi tersebut.
輸出: 然而面臨到期債務壓力，可能影響其獲得補助的資格。

系統需求

• RAM: 最低 4GB，建議 6GB+
• CPU: 支援 AVX2 指令集
• 儲存: 約 2.80GB 空間

效能比較

兼容性

• ✅ llama.cpp
• ✅ Ollama
• ✅ text-generation-webui
• ✅ LM Studio
• ✅ KoboldCpp
• ✅ Jan
• ✅ GPT4All

量化技術

• 大幅降低位元精度
• 優化記憶體存取模式
• 在極小空間下保持基本翻譯能力

訓練資料

建議用途

• 繁體中文↔印尼文雙向翻譯
• 跨語言文檔處理
• 商務文件翻譯
• 新聞文章翻譯
• 學術文獻翻譯
• 資源受限環境的翻譯應用

授權

致謝

感謝 llama.cpp 團隊提供優秀的量化工具。