本模型使用了 keke0130/chinese_title_generation_gpt_oss_20b 資料集進行微調。
這個資料集基於以下來源構建：
- 對話內容 (Prompt): 來自 Mxode/Chinese-Instruct
- 標題 (Response): 由 gpt-oss-20b 生成

🚀 快速上手 (Quick Start)

⚠️ 重要提示: 本模型需要遵循特定的提示格式才能獲得最佳效果。請確保您的輸入嚴格遵循以下模板。

1. 🖥️ 使用 GGUF (推薦用於本地部署)

GGUF 模型倉庫: keke0130/gemma-3-270m-chinese-title-generator-gguf
適用工具: llama.cpp, Ollama, LM Studio 等。
📝 Jinja 提示模板: 在您的應用程式中（如 LM Studio），請手動設定以下 Jinja 模板：
jinja
1{% for message in messages %}{% if message['role'] == 'user' %}### 指令: 2請根據以下使用者對話，生成一個簡潔、準確的標題。 3 4### 使用者對話: 5{{ message['content'] }} 6 7### 生成的標題: 8{% elif message['role'] == 'assistant' %}{{ message['content'] }}{% endif %}{% endfor %}

2. 🐍 使用 `transformers` (適用於 Python 環境)

python

from transformers import pipeline
import torch

model_id = "keke0130/gemma3-270m-chinese-title-generator"

pipe = pipeline(
    "text-generation",
    model=model_id,
    model_kwargs={"torch_dtype": torch.bfloat16},
    device="cuda",
)

# 準備您的對話內容
dialogue = "你好，我想請問一下你們的退貨政策是什麼？我上週買的商品好像有點問題。另外，客服電話是多少？"

# 手動構建提示
prompt_template = f"""### 指令:
請根據以下使用者對話，生成一個簡潔、準確的標題。

### 使用者對話:
{dialogue}

### 生成的標題:
"""

# 進行推論
outputs = pipe(prompt_template, max_new_tokens=50, do_sample=False)

# 清理並提取結果
# 我們需要手動去除 prompt 部分，只留下模型新生成的內容
generated_text = outputs['generated_text'][len(prompt_template):].strip()

print(f"💬 原始對話: {dialogue}")
print(f"🏷️ 模型生成標題: {generated_text}")

keke0130/gemma-3-270m-chinese-title-generator

Gemma-3-270M 中文對話標題生成模型 💬➡️🏷️

📊 數據 (Dataset)

🚀 快速上手 (Quick Start)

1. 🖥️ 使用 GGUF (推薦用於本地部署)

2. 🐍 使用 transformers (適用於 Python 環境)

keke0130/
gemma-3-270m-chinese-title-generator

2. 🐍 使用 `transformers` (適用於 Python 環境)