You can deploy this model and start earning money today!

ramgpt/
sbhnmb-Qwen3-4B-Persian-ctg-finetuned-instruct-GGUF-Q4_K_M

Name: sbhnmb-Qwen3-4B-Persian-ctg-finetuned-instruct-GGUF-Q4_K_M
Availability: InStock

sbhnmb/Qwen3-4B-Persian-ctg

quantized

other

conversational

Views

No views yet

sbhnmb-Qwen3-4B-Persian-ctg.F16.Q4_K_M.gguf

Overview (EN)

This repository provides a q4_k_m-quantized GGUF file derived from sbhnmb/Qwen3-4B-Persian-ctg.

Quick Start (llama.cpp)

./build/bin/llama-cli -m sbhnmb-Qwen3-4B-Persian-ctg.F16.Q4_K_M.gguf -p "Hello"

Quantization

Format: GGUF
Method: q4_k_m
File: sbhnmb-Qwen3-4B-Persian-ctg.F16.Q4_K_M.gguf
Size: ~2.33 GB

Provenance

Base model: sbhnmb/Qwen3-4B-Persian-ctg

Note: This repo contains inference-only quantized weights. Respect the upstream license and usage terms.

Présentation (FR)

Ce dépôt fournit un fichier GGUF q4_k_m issu de sbhnmb/Qwen3-4B-Persian-ctg.

Démarrage rapide (llama.cpp)

./build/bin/llama-cli -m sbhnmb-Qwen3-4B-Persian-ctg.F16.Q4_K_M.gguf -p "Bonjour"

Quantification

Format : GGUF
Méthode : q4_k_m
Fichier : sbhnmb-Qwen3-4B-Persian-ctg.F16.Q4_K_M.gguf
Taille : ~2.33 Go

Provenance

Modèle amont : sbhnmb/Qwen3-4B-Persian-ctg

Remarque : Ce dépôt contient uniquement des poids quantifiés pour l'inférence. Merci de respecter la licence et les conditions d'utilisation du modèle d'origine.

ramgpt/sbhnmb-Qwen3-4B-Persian-ctg-finetuned-instruct-GGUF-Q4_K_M

sbhnmb-Qwen3-4B-Persian-ctg.F16.Q4_K_M.gguf

Overview (EN)

Quick Start (llama.cpp)

Quantization

Provenance

Présentation (FR)

Démarrage rapide (llama.cpp)

Quantification

Provenance

ramgpt/
sbhnmb-Qwen3-4B-Persian-ctg-finetuned-instruct-GGUF-Q4_K_M