Paul720810/

gguf-models

這個倉庫包含多種量化格式的 GGUF 模型檔案。

	格式說明




	

格式 描述 品質 檔案大小 推薦用途

FP16 16位浮點 最高 最大 高精度推理、微調基準

Q8_0 8位量化 高 中等 高品質推理、伺服器部署

Q4_K_M 4位混合量化 良好 最小 本地部署、快速推理

📊 成功轉換: 3/4 個模型 📈 成功率: 75.0% 🔧 支援格式: FP16, Q8_0, Q4_K_M 🕒 更新時間: 2025-08-29 04:34:43

	模型列表




	

模型名 FP16 Q8_0 Q4_K_M 狀態

deepseek-1.3b-sql-final-t4x2 2569.5MB N/A N/A ✅ 成功

codegemma-2b-sql-coder-finetuned 4786.0MB N/A N/A ✅ 成功… See the full description on the dataset page: https://huggingface.co/datasets/Paul720810/gguf-models.