ベースモデル: google/gemma-2-9b 使用した手法: 4bit量子化（BitsAndBytesを利用） LoRAによる軽量ファインチューニング（PEFTライブラリを使用） ファインチューニングの詳細： 使用したフレームワーク: transformers、peft、trl データセット: 　

Training Data Sources 本モデルのファインチューニングには、以下のデータセットを組み合わせて使用しました。

博士レベルのQ&Aデータ2500点

Dolly-15k-ja (約1,200件抽出) 　kunishou/databricks-dolly-15k-ja 　Databricks Dolly 15k英語データセットを日本語化したもので、様々な指示応答形式のインストラクションが含まれています。本モデルでは、その中から約1,200件を抽出・利用しています。

No Robots (約2,400件抽出) 　HuggingFaceH4/no_robots 　ヒューマンが生成したテキストとAI生成テキストを区別するためのデータセットが元となっており、AI安全性や出力制御に関わる多様なシナリオを収録しています。本モデルでは、約2,400件をインストラクション形式に整形して使用しています。

ELYZA-tasks-100 (100件) 　elyza/ELYZA-tasks-100 　これは100件のタスク指向インストラクションセットであり、短いが明確な指示と期待される出力形式を含むことで、モデルが特定タスクや状況への対応力を獲得しやすくしています。

学習設定: 3エポック、シーケンス長256、バッチサイズ1、学習率5e-5 モデルの目的: 軽量化しつつ効率的にファインチューニングを行い、ローカル環境で動作可能なモデルを構築

公開済みモデルURL：AkiK/gemma-2-9b-4bit-Q-lora-kura-7

bitsandbytesライブラリを用いてモデルを4bit量子化しました。

from transformers import AutoTokenizer, AutoModelForCausalLM

model_name = "google/gemma-2-9b" tokenizer = AutoTokenizer.from_pretrained(model_name) model = AutoModelForCausalLM.from_pretrained( model_name, load_in_4bit=True, # 4bit量子化 device_map="auto" ) 2. LoRAによるSFT peftとtransformersを用いてLoRAでSFTを行いました。

python from peft import LoraConfig, get_peft_model

lora_config = LoraConfig( r=16, lora_alpha=32, target_modules=["q_proj", "v_proj"], lora_dropout=0.1 ) model = get_peft_model(model, lora_config)

from transformers import Trainer, TrainingArguments

training_args = TrainingArguments( output_dir="./output", per_device_train_batch_size=4, num_train_epochs=3, logging_dir="./logs", ) trainer = Trainer( model=model, args=training_args, train_dataset=train_dataset, ) trainer.train()

推論方法 以下のコードでモデルの推論を実行できます。

from transformers import AutoTokenizer, AutoModelForCausalLM

model_name = "AkiK/gemma-2-9b-4bit-Q-lora-kura-7" tokenizer = AutoTokenizer.from_pretrained(model_name) model = AutoModelForCausalLM.from_pretrained(model_name, device_map="auto")

提出ファイルの出力方法 以下のコードを使用して、タスクIDごとの入力データを推論し、結果をJSONL形式でファイルに出力しました。

def get_input_by_task_id(task_id, file_path="＜テスト用のファイル名＞"): with open(file_path, "r", encoding="utf-8") as f: for line in f: line = line.strip() if line: data = json.loads(line) if data.get("task_id") == task_id: return data.get("input", "") return None

output_file = "<任意のjsonlファイル名>"

def chat_with_model(question, model, tokenizer, max_new_tokens=128): prompt = f"### 指示\n{question}\n### 答え\n" input_ids = tokenizer.encode(prompt, return_tensors="pt").to(model.device) with torch.no_grad(): output_ids = model.generate( input_ids, max_new_tokens=max_new_tokens, do_sample=False, pad_token_id=tokenizer.eos_token_id, repetition_penalty=1.2 ) generated_text = tokenizer.decode(output_ids[0][input_ids.size(1):], skip_special_tokens=True) return generated_text.strip()

for task_id_to_query in range(100): # 0から99まで input_text = get_input_by_task_id(task_id_to_query) if input_text is None: print(f"Task ID {task_id_to_query} not found in the dataset. Skipping...") continue

answer = chat_with_model(input_text, model, tokenizer)
print("Task ID:", task_id_to_query)
print("Input:", input_text)
print("Output:", answer)

# 結果を 任意のjsonlファイル に追記
with open(output_file, "a", encoding="utf-8") as fw:
    json.dump({"task_id": task_id_to_query, "input": input_text, "output": answer}, fw, ensure_ascii=False)
    fw.write("\n")

print(f"Appended result for task_id {task_id_to_query} to {output_file}")

参考 ベースモデル：gemma-2-9b