Optimized weights for the Qwen3-VL-4B-Instruct-action model by the SberRoboticsCenter team. This build is prepared for efficient local execution (CPU Xeon, 8GB VRAM GPU) via llama.cpp and Ollama.

Technical Information:

Conversion Tool: llama.cpp build 8373 (commit 46dba9fce).

📝 About the Model

Qwen3-VL-4B-Instruct-action is a specialized Vision-Language-Action (VLA) model. Unlike standard chat models, it is fine-tuned to understand spatial relationships and plan physical movements.

This model is a specialized Vision-Language-Action (VLA) agent developed by SberRoboticsCenter. It serves as the foundational architecture and instruction-tuned base for the Green-VLA project.

The model is fine-tuned to predict precise spatial coordinates and plan robotic actions, bridging the gap between visual understanding and physical execution.

Research Paper: Green-VLA: Staged Vision-Language-Action Model for Generalist Robots

🛠 Use Cases & Practical Applications

🤖 Robotics & Control: High-precision object detection for pick-and-place tasks. The model generates coordinates [ymin, xmin, ymax, xmax] for robotic manipulators.
🖥 UI Automation & RPA: Visual navigation of software interfaces. Ideal for testing apps or automating legacy software without APIs by "seeing" buttons and fields.
🏭 Industrial Vision: Quality control on assembly lines, safety monitoring (PPE detection), and obstacle analysis for AGV/AMR robots.
📄 Advanced OCR: Extracting data from complex layouts like blueprints, receipts, and multilingual documents where context is key.

📂 Available Weights (Experimental)

File	Method	Size	Status
`Sber_Qwen3-VL-4B-Instruct-action-Q4_K_M.gguf`	Q4_K_M	2.32 GB	Created
`Sber_Qwen3-VL-4B-Instruct-action-Q5_K_M.gguf`	Q5_K_M	2.69 GB	Created
`Sber_Qwen3-VL-4B-Instruct-action-Q6_K.gguf`	Q6_K	3.08 GB	Created
`mmproj-Sber_Qwen3-VL-4B-Instruct-action-F16.gguf`	F16	797 MB	Extracted

🚀 Usage Instructions

1. Via llama.cpp (CLI)

bash

./llama-cli -m Sber_Qwen3-VL-4B-Instruct-action-Q4_K_M.gguf \
            --mmproj mmproj-Sber_Qwen3-VL-4B-Instruct-action-F16.gguf \
            --image "path/to/your/image.jpg" \
            -p "<|im_start|>user\n<|vision_start|><|vision_end|>Describe the objects in the photo.<|im_end|>\n<|im_start|>assistant\n" \
            -n 512 --temp 0.1

Note: In the --image parameter, specify the path to your test image (supported formats: .jpg, .png).

2. Via Ollama

Create a Modelfile:

dockerfile

FROM ./Sber_Qwen3-VL-4B-Instruct-action-Q4_K_M.gguf
ADAPTER ./mmproj-Sber_Qwen3-VL-4B-Instruct-action-F16.gguf
PARAMETER num_ctx 16384
PARAMETER num_gpu 99

Then: ollama create sber-action -f Modelfile

⚠️ Testing Status (WIP)

Technical correctness of the conversion is confirmed. Functional verification of Action capabilities (coordinate prediction accuracy in GGUF) is currently in progress.

⚖️ License

Distributed under Apache 2.0. Used original model by the SberRoboticsCenter team.

Developed within the TirGun project. Local AI. Privacy. Efficiency.

Русская версия

Оптимизированные веса модели Qwen3-VL-4B-Instruct-action от команды SberRoboticsCenter. Сборка подготовлена для эффективного запуска на локальном железе (CPU Xeon, GPU с 8GB VRAM) через llama.cpp и Ollama.

Техническая информация:

Инструмент конвертации: llama.cpp билд 8373 (коммит 46dba9fce).

📝 О модели

Qwen3-VL-4B-Instruct-action — это специализированная Vision-Language-Action (VLA) модель. В отличие от обычных текстовых нейросетей, она обучена понимать пространственные характеристики объектов и планировать физические действия.

Данная модель является специализированным Vision-Language-Action (VLA) агентом, разработанным командой SberRoboticsCenter. Она послужила фундаментальной архитектурой и базой для проекта Green-VLA.

Модель дообучена для предсказания точных пространственных координат и планирования действий роботов, выступая связующим звеном между визуальным восприятием и физическим исполнением задач.

Научная работа: Green-VLA: Staged Vision-Language-Action Model for Generalist Robots

🛠 Области применения и практика

🤖 Робототехника: Высокоточное детектирование объектов для задач захвата (Pick-and-Place). Модель выдает нормализованные координаты [ymin, xmin, ymax, xmax] для манипуляторов.
🖥 Автоматизация UI (RPA): Визуальная навигация по интерфейсам программ. Идеально для тестирования ПО или управления старым софтом через "зрение", находя кнопки и поля ввода.
🏭 Индустриальное зрение: Контроль качества на линиях, мониторинг техники безопасности (наличие касок/жилетов) и анализ препятствий для мобильных роботов.
📄 Продвинутый OCR: Извлечение данных из чертежей, чеков и сложных мультиязычных документов, где важен контекст и структура.

📂 Состав сборки (Экспериментальная)

Файл	Метод	Размер	Статус
`Sber_Qwen3-VL-4B-Instruct-action-Q4_K_M.gguf`	Q4_K_M	2.32 Гб	Создан
`Sber_Qwen3-VL-4B-Instruct-action-Q5_K_M.gguf`	Q5_K_M	2.69 Гб	Создан
`Sber_Qwen3-VL-4B-Instruct-action-Q6_K.gguf`	Q6_K	3.08 Гб	Создан
`mmproj-Sber_Qwen3-VL-4B-Instruct-action-F16.gguf`	F16	797 Мб	Извлечен

🚀 Инструкция по запуску

1. Через llama.cpp (CLI)

bash

./llama-cli -m Sber_Qwen3-VL-4B-Instruct-action-Q4_K_M.gguf \
            --mmproj mmproj-Sber_Qwen3-VL-4B-Instruct-action-F16.gguf \
            --image "path/to/your/image.jpg" \
            -p "<|im_start|>user\n<|vision_start|><|vision_end|>Опиши объекты на фото.<|im_end|>\n<|im_start|>assistant\n" \
            -n 512 --temp 0.1

Примечание: В параметре --image укажите путь к вашему тестовому изображению (поддерживаются форматы .jpg, .png).

2. Через Ollama

Создайте Modelfile: