You can deploy this model and start earning money today!

weblab-GENIAC/
Tanuki-8x8B-vision-exp

Name: Tanuki-8x8B-vision-exp
Availability: InStock

Views

No views yet

Tanuki-8x8B-vision-exp

モデルについて

Tanuki-8x8B-vision-expは、LLaVA1.5に基づく視覚言語モデルです。言語モデルとして、Tanuki-8x8B-dpo-v1.0の学習途中のモデル（事後学習前）、画像エンコーダとしてgoogle/siglip-so400m-patch14-384を使用しています。
(計算リソースの観点で、学習を1epoch未満で打ち切ったことから、学習途中の実験的なモデルという意味で-expという名称を付けています)

背景

近年、視覚言語モデル（VLM）が注目されている一方で、商用利用可能な日本語データセットは限られています。本プロジェクトでは、データの合成を活用してこの課題に取り組むとともに、80億パラメータ(Tanuki-8B-vision)および500億パラメータ(Tanuki-8x8B-vision-exp)のVLMを開発しました
VLM開発は、GENIAC 松尾研 LLM開発プロジェクトの主要な開発目標としてではなく、有志の参加者によって実験的に行われました

使用したコード

使い方

ローカル

https://github.com/matsuolab/nedo_project_code/blob/team_hatakeyama_phase2/team_hatakeyama_phase2/multimodal/LLaVA-JP/demo_llava_gradio.py

評価

Heron VLM リーダーボード

GPT-4による評価 (gpt-4-turbo-2024-04-09)

weblab-GENIAC/Tanuki-8x8B-vision-exp