Beta
Explore
Marketplace
Neural Labs
Chat
Wallet
Docs
gemma-3-27B-it-gguf – AI Model by grapevine-AI | AlphaNeural AI
You can deploy this model and start earning money today!
grapevine-AI
/
gemma-3-27B-it-gguf
like
0
conversational
endpoints_compatible
gguf
imatrix
template
gemma
us
Views
No views yet
Model card
Files and Versions
Community
API
Deploy
What is this?
GoogleがGeminiのテクノロジーを使用して開発した言語モデル
gemma-3-27b-it
をGGUFフォーマットに変換したものです。
imatrix dataset
日本語能力を重視し、日本語が多量に含まれる
TFMC/imatrix-dataset-for-japanese-llm
データセットを使用しました。
Chat template
<start_of_turn>user ここにpromptを書きます<end_of_turn> <start_of_turn>model
Quants
各クオンツとそのベンチマークスコア(Gemini 2.0 Flash採点によるElyza_tasks 100)をまとめておきます。
クオンツ
スコア
コメント
Q8_0
4.28
Q6_K
4.27
Q5_K_M
4.33
Q4_K_M
4.2
IQ4_XS
4.12
Environment
Windows版llama.cpp-b5074および同時リリースのconvert-hf-to-gguf.pyを使用して量子化作業を実施しました。
License
gemma license
Developer
Google