Views
No views yet
| ファイル | サイズ | 用途 |
|---|---|---|
| shokuba-probe-2b-Q8_0.gguf | 1.7GB | 推奨 |
| shokuba-probe-2b-Q4_K_M.gguf | 1.0GB | 省メモリ |
| shokuba-probe-2b-f16.gguf | 3.2GB | 参照用 |
| mmproj-shokuba-probe-2b-f16.gguf | 781MB | 視覚エンコーダ（必須・どの量子化とも組み合わせ可） |
| 点検質問 | 指標 | MLX版 | Q8_0 | Q4_K_M |
|---|---|---|---|---|
| ヘルメット | F1 | 0.854 | 0.851 | 0.817 |
| 安全ベスト | F1 | 0.932 | 0.940 | 0.940 |
| マスク | 一致率 | 0.583 | 0.558 | 0.583 |
| 火・煙 | 一致率 | 0.850 | 0.858 | 0.867 |
| 消火器 | 一致率 | 0.942 | 0.950 | 0.942 |
| 転倒 | F1 | 1.000 | 1.000 | 1.000 |
| ヘアネット | F1 | 0.955 | 0.955 | 0.966 |
| 手袋 | F1 | 0.857 | 0.857 | 0.875 |
| 安全帯 | 一致率 | 0.675 | 0.667 | 0.650 |
| フォークリフト | 一致率 | 0.680 | 0.600 | 0.590 |
| パレットトラック | 一致率 | 0.608 | 0.608 | 0.642 |
| カゴパレット | 一致率 | 0.900 | 0.883 | 0.900 |
| 総合 | 0.820 | 0.811 | 0.814 |
1# CLIで1枚
2llama-mtmd-cli -m shokuba-probe-2b-Q8_0.gguf --mmproj mmproj-shokuba-probe-2b-f16.gguf \
3 --image site.jpg --temp 0 -n 60 \
4 -p "この画像に写っている人を数えてください。全体の人数、そのうちヘルメット（保護帽）を着用している人数、着用していない人数を「人数:N人、着用:N人、未着用:N人」の形式で答えてください。"
5
6# サーバ（OpenAI互換API）
7llama-server -m shokuba-probe-2b-Q8_0.gguf --mmproj mmproj-shokuba-probe-2b-f16.gguf \
8 --port 8080 --jinja -c 8192 --image-min-tokens 64 --image-max-tokens 2048[image_url, text]にします。逆順だと細部の判定（ヘアネット等）が大きく劣化します（F1 0.955→0.633）。-c 8192等でコンテキスト長を指定してください。 無指定はモデル宣言の262Kで確保しようとしてメモリ不足になります。--image-min-tokens 64 --image-max-tokens 2048を推奨します。 無指定だと画像が過剰に縮小され、小さな対象の判定が落ちます。