jina-embeddings-v3-Embedding-GGUF

Original Model

Run with LlamaEdge

• LlamaEdge version: coming soon

• Prompt template
  • Prompt type: embedding
• Embedding size: 32, 64, 128, 256, 512, 768, 1024
• Run as LlamaEdge service
  bash

  1wasmedge --dir .:. --nn-preload default:GGML:AUTO:jina-embeddings-v3-f16.gguf \ 2 llama-api-server.wasm \ 3 --prompt-template embedding \ 4 --ctx-size 768 \ 5 --model-name jina-embeddings-v3