You can deploy this model and start earning money today!

Kerwin0113/
EduChat-1.8B-Qwen1.5-Q4_K_M-20251207-GGUF

Name: EduChat-1.8B-Qwen1.5-Q4_K_M-20251207-GGUF
Availability: InStock

gguf

endpoints_compatible

conversational

Views

No views yet

EduChat-1.8B-Qwen1.5-Q4_K_M-20251207-GGUF

模型信息

原始模型: ecnu-icalk/educhat-sft-002-1.8b-qwen1.5
量化方法: q4_k_m
GGUF 文件: EduChat-1.8B-Qwen1.5-Q4_K_M-20251207-Q4_K_M.gguf
转换时间: 2025-12-07

使用方法

Ollama

bash

# 创建模型
ollama create educhat-1.8b-qwen1.5-q4_k_m-20251207 -f Modelfile

# 运行模型
ollama run educhat-1.8b-qwen1.5-q4_k_m-20251207

llama.cpp

bash

# 使用 GPU 加速
./llama-cli -m EduChat-1.8B-Qwen1.5-Q4_K_M-20251207-Q4_K_M.gguf -p "你的问题" -ngl 99

# 交互模式
./llama-cli -m EduChat-1.8B-Qwen1.5-Q4_K_M-20251207-Q4_K_M.gguf -i -ngl 99

LM Studio

下载 GGUF 文件
在 LM Studio 中加载模型

Kerwin0113/EduChat-1.8B-Qwen1.5-Q4_K_M-20251207-GGUF

EduChat-1.8B-Qwen1.5-Q4_K_M-20251207-GGUF

模型信息

使用方法

Ollama

llama.cpp

LM Studio

推荐参数

Kerwin0113/
EduChat-1.8B-Qwen1.5-Q4_K_M-20251207-GGUF