Views
No views yet
unsloth/gemma-4-E2B-it を LoRA で fine-tune した、日本語検索エンジン向け
Query Expansion モデル。query) に対し、以下 3 種を含む JSON を出力する:lex: 語彙検索(BM25等)向けの語句・表記ゆれ配列vec: 意味検索(embedding)向けの言い換え1文hyde: HyDE 用の仮想文書lex -> vec -> hyde
固定の compact JSON 文字列。user: 木魚
model: {"lex":[...],"vec":"...","hyde":"..."}apply_chat_template(..., enable_thinking=False)--reasoning false を使うこと。
--chat-template-kwargs '{"enable_thinking":false}' は Gemma 4 の
同梱チャットテンプレートの既知の不具合(enable_thinking の分岐が
逆転している)により効かない/不安定なビルドがある。
--reasoning false はテンプレートのレンダリングに依存せず
推論パラメータ側で reasoning を止めるため、こちらを使う。gguf/ 以下に llama.cpp / Ollama 用の量子化済み GGUF を同梱。