AgentBench-comp V3 Model: Qwen2.5-7B-AgentBench-v3
1. 概要
本モデルは、AIエージェント・実務活用コンペ(アドバンス)の最終提出用モデル(V3)です。
公式指定モデル Qwen/Qwen2.5-7B-Instruct をベースに、Macローカル環境での量子化および、独自生成された高度な推論データセットによる LoRA ファインチューニングを実施しています。
2. 規約遵守に関する証明 (Compliance Evidence)
本モデルは規約 7.6 に基づき、提出者自身の手で以下の改変プロセスを経て作成されました。
- ベースモデルの取得: 公式リポジトリ
Qwen/Qwen2.5-7B-Instruct から全重みをダウンロード。
- 自己量子化 (Self-Quantization): 他者が配布する量子化モデルを使用せず、MLXフレームワーク (
mlx_lm.convert) を用いて、自身で 4-bit 量子化 を実施しました。
- 指令:
python -m mlx_lm.convert --hf-path models/student -q --q-bits 4
- 独自データによる学習 (SFT): 以下の、思考プロセス(Thought)を重視した独自データセットでファインチューニングを行いました。
- SQL (DB Bench): 集計関数(SUM, AVG)、JOIN、SQLite特有の作法を重視した 128件。
- ALFWorld (Planning): 過去の観察を記憶し、論理的に次の探索先を決定する ReAct形式の 46件。
- 総ステップ数: 1,500 Iteration (収束を確認)
3. モデルの強み
- 推論の論理性: 闇雲にアクションを起こすのではなく、
Thought: セクションで現状を分析してからSQL出力や行動決定を行います。
- SQLite 準拠: 標準的な SQL 構文を学習しており、評価環境でのエラー率を低減しています。
- 軽量・高速: 4-bit 量子化と 7B スケールのバランスにより、L4 GPU 環境で極めて高速に動作します。
4. リポジトリ情報
- Model ID:
satoyutaka/Qwen2.5-7B-AgentBench-llm2025_advance_v3
- Framework: MLX / Transformers (Fused)