You can deploy this model and start earning money today!

UMASHIKA/
gemma3-270m-japanese-webllm-03

Name: gemma3-270m-japanese-webllm-03
Availability: InStock

Views

No views yet

Gemma3-270M Japanese Fine-tuned (WebLLM)

日本語データでFine TuningされたGemma3-270M WebLLMモデル

📊 モデル概要

ベースモデル: google/gemma-3-270m
Fine Tuningフレームワーク: Unsloth
量子化: q4f32_1 (4-bit weights + FP32, iOS Safari対応)
モデルサイズ: ~150MB
コンテキスト長: 4096 tokens
言語: 日本語

🚀 使用方法

WebLLMアプリで使用

typescript

import { CreateMLCEngine } from "@mlc-ai/web-llm";

const engine = await CreateMLCEngine(
  "https://huggingface.co/UMASHIKA/gemma3-270m-japanese-webllm-03",
  {
    initProgressCallback: (progress) => {
      console.log(`Loading: ${(progress.progress * 100).toFixed(1)}%`);
    }
  }
);

const reply = await engine.chat.completions.create({
  messages: [{ role: "user", content: "こんにちは！" }]
});

console.log(reply.choices[0].message.content);

カスタム設定で使用

typescript

import * as webllm from "@mlc-ai/web-llm";

const customModel: webllm.ModelRecord = {
  model: "https://huggingface.co/UMASHIKA/gemma3-270m-japanese-webllm-03",
  model_id: "gemma3-270m-japanese-03",
  model_lib: "https://huggingface.co/UMASHIKA/gemma3-270m-japanese-webllm-03/resolve/main/gemma3-270m-japanese-q4f32_1-ctx4k-webgpu.wasm",
  vram_required_MB: 900,
  low_resource_required: true,
};

const appConfig: webllm.AppConfig = {
  model_list: [...webllm.prebuiltAppConfig.model_list, customModel]
};

const engine = await webllm.CreateMLCEngine(
  "gemma3-270m-japanese-03",
  { appConfig }
);

📱 対応環境

ブラウザ

✅ Chrome 113+ (推奨)
✅ Edge 113+
✅ Safari 18.0+ (macOS/iOS)
✅ Firefox 128+ (WebGPU有効化必要)

デバイス

iPhone 15/14 Pro以降
Android (Snapdragon 8 Gen 2以降)
Windows/Mac/Linux (WebGPU対応GPU)

⚡ パフォーマンス

デバイス	ロード時間	推論速度	VRAM使用量
iPhone 15 Pro	5-10秒	30-50 tokens/s	~900MB
Desktop (WebGPU)	3-8秒	40-80 tokens/s	~900MB

📂 ファイル構成

.
├── mlc-chat-config.json                ← WebLLM設定
├── gemma3-270m-japanese-q4f32_1-ctx4k-webgpu.wasm  ← カスタムWASM
├── params_shard_0.bin                  ← 量子化済み重み
├── params_shard_1.bin
├── params_shard_2.bin
├── params_shard_3.bin
├── tokenizer.model                     ← トークナイザー
├── tokenizer.json
└── ...

合計サイズ: ~150MB

🔧 カスタムWASMについて

このモデルには、Gemma3-270M専用にコンパイルされたカスタムWASMライブラリが含まれています：

ファイル名: gemma3-270m-japanese-q4f32_1-ctx4k-webgpu.wasm
コンパイル環境: Emscripten 3.1.56
最適化: WebGPU + O3
コンテキスト長: 4096 tokens
量子化: q4f32_1

📝 ライセンス

このモデルは Gemma Terms of Use に基づいてライセンスされています。

🙏 謝辞

ベースモデル: Google Gemma Team
Fine Tuningツール: Unsloth
WebLLMツール: MLC LLM

作成日: 2026年2月15日
モデルバージョン: gemma3-270m-japanese-webllm-03