Views
No views yet
| ファイル | サイズ | 用途 |
|---|---|---|
| jp-invoice-reader-2b-Q8_0.gguf | 1.7GB | 推奨（抽出・QAとも） |
| jp-invoice-reader-2b-Q4_K_M.gguf | 1.0GB | QA用途向け（下記注意） |
| jp-invoice-reader-2b-f16.gguf | 3.2GB | 参照用 |
| mmproj-jp-invoice-reader-2b-f16.gguf | 781MB | 視覚エンコーダ（必須・どの量子化とも組み合わせ可） |
| 指標 | bf16（MLX公開版） | Q8_0 | Q4_K_M |
|---|---|---|---|
| ja-docs QA（実写風6問） | 6/6 | 6/6 | 6/6 |
| 帳票QA | 93.5% | 91.8% | 90.5% |
| 抽出フィールド一致（厳密） | 90.1% | 84.3% | 67.3% |
{"rate": 10, "amount": 1449000}のようにネストで返す揺れが増え、厳密一致では×になりますが、税額の値ベースでは99/100が正解でした。金額の読み取り能力自体は維持されています。後段でJSONを受けるときはネスト形式も許容してください。1llama-server -m jp-invoice-reader-2b-Q8_0.gguf --mmproj mmproj-jp-invoice-reader-2b-f16.gguf \
2 --port 8080 --jinja -c 8192 --image-min-tokens 64 --image-max-tokens 4096[image_url, text]にする）。逆順は精度が下がります。-c 8192等でコンテキスト長を指定してください。 無指定はモデル宣言の262Kで確保しようとしてメモリ不足になります。--image-max-tokens 4096を推奨します。 帳票は高解像度のため、既定では画像が過剰に縮小され数値の読み取りが落ちます。