You can deploy this model and start earning money today!

rmycy/
llm-jp-3-13b-finetune

Name: llm-jp-3-13b-finetune
Availability: InStock

transformers

safetensors

endpoints_compatible

Views

No views yet

概要

「松尾研大規模言語モデル講座2024」（https://weblab.t.u-tokyo.ac.jp/lecture/course-list/large-language-model/　）のコンペ用の提出モデル作成の一環として作成・公開します。

・データセットの選択とjsonファイルの作成

megagonlabs/instruction_ja　（ライセンス　MIT：コピー、変更、マージ、公開、配布に制限のないライセンス）

https://github.com/megagonlabs/instruction_ja

感想付きニュース雑談対話コーパス V3ファイル　（ライセンス　MIT：コピー、変更、マージ、公開、配布に制限のないライセンス）

https://github.com/fukanarita/newschat-with-impression

１．のデータセットから、「質問」と「回答」を抽出し、jsolファイルに変換して使用した（megagonlabs_instruction_ja.json）。「大規模言語モデル2024」で提供されたコンペ用Fine-Tuningテンプレート「LoRA_template_20241127.ipynb」をもとに、「training_arguments」のepoch、learning_rate、seedを調整。（epoch=4、learning_rate=1e-6,　seed=2000としてコンペのスコアが2.48まで伸びたが、それ以上の改善が得られなかったため、2. のデータセットを追加することにした。）

２．のデータセットは、「話者の雑談に加えて、雑談の話題となるニュースと、それに対するツイートがセット」なっており、データに重複があるため、重複や冗長な内容を除いて「回答」とし、トピックスに関して「～についての最近のニュースを教えてください」の形式の「質問」を付した。１．のデータセットに、２．のデータセットを追加してjson形式のファイルとした（megagonlabs_instruction_ja_V3.json）。（epoch=4、learning_rate=1e-6,　seed=2000で、コンペのスコアが2.49となった。さらにseed=1000としたところ、コンペのスコアが2.51となった。)

推論方法

「松尾研大規模言語モデル講座2024」のコンペのタスクの推論方法を用いました。

Training Details

bash

# python 3.10.12
!pip install -U pip
!pip install -U transformers
!pip install -U bitsandbytes
!pip install -U accelerate
!pip install -U datasets
!pip install -U peft
!pip install -U trl
!pip install -U wandb
!pip install ipywidgets --upgrade

from transformers import (
    AutoModelForCausalLM,
    AutoTokenizer,
    BitsAndBytesConfig,
    TrainingArguments,
    logging,
)
from peft import (
    LoraConfig,
    PeftModel,
    get_peft_model,
)
import os, torch, gc
from datasets import load_dataset
import bitsandbytes as bnb
from trl import SFTTrainer

Hugging Face Token

HF_TOKEN = "***"

モデルを読み込み

python

base_model_id = "models/models--llm-jp--llm-jp-3-13b/snapshots/cd3823f4c1fcbb0ad2e2af46036ab1b0ca13192a" #Fine-Tuningするベースモデル
# omnicampus以外の環境をご利用の方は以下をご利用ください。
# base_model_id = "llm-jp/llm-jp-3-13b"

new_model_id = "llm-jp-3-13b-finetune" #Fine-Tuningしたモデルにつけたい名前

python

"""
bnb_config: 量子化の設定

  - load_in_4bit:
      - 4bit量子化形式でモデルをロード

  - bnb_4bit_quant_type:
      - 量子化の形式を指定

  - bnb_4bit_compute_dtype:
      - 量子化された重みを用いて計算する際のデータ型

"""

bnb_config = BitsAndBytesConfig(
    load_in_4bit=True,
    bnb_4bit_quant_type="nf4", # nf4は通常のINT4より精度が高く、ニューラルネットワークの分布に最適
    bnb_4bit_compute_dtype=torch.bfloat16,
)

python

"""
model: モデル

  - base_model:
      - 読み込むベースモデル (事前に定義したもの)

  - quantization_config:
      - bnb_configで設定した量子化設定

  - device_map:
      - モデルを割り当てるデバイス (CPU/GPU) "auto"で自動に割り当てられます。

tokenizer: トークナイザー

  - base_model:
      - 読み込むベースモデル (事前に定義したもの)

  - trust_remote_code:
      - リモートコードの実行を許可 (カスタムモデルなど)
"""
model = AutoModelForCausalLM.from_pretrained(
    base_model_id,
    quantization_config=bnb_config,
    device_map="auto"
)

tokenizer = AutoTokenizer.from_pretrained(base_model_id, trust_remote_code=True)

python

"""
find_all_linear_names: モデル内の4bit量子化線形層を探します。
"""

def find_all_linear_names(model):
    cls = bnb.nn.Linear4bit # 4bit量子化線形層クラスを指定
    lora_module_names = set() # ここに取得した線形層を保持します。

    # モデル内の全てのモジュールを探索します
    for name, module in model.named_modules():
        if isinstance(module, cls): # モジュールが4bit量子化線形層の場合
            names = name.split('.') # モジュールの名前を分割 (ネストされてる際などに対処)
            lora_module_names.add(names[0] if len(names) == 1 else names[-1]) # 最下層の名前をlora_module_namesに追加

    # 'lm_head' は16ビット演算の際に除外する必要があるため、lora_module_namesから削除
    if 'lm_head' in lora_module_names:
        lora_module_names.remove('lm_head')

    return list(lora_module_names) # lora_module_namesをリストに変換して返します。

modules = find_all_linear_names(model)

python

"""
peft_config: PEFTの構成設定

  - r
      - LoRA のランク (4, 8, 16 ,32...)
      - 増やすほど学習が捗るが, 過学習のリスクも高まるので注意

  - lora_alpha
      - LoRAのスケーリング係数

  - lora_dropout
      - ドロップアウト率（過学習を防ぐための割合）

  - bias
      - バイアス項の扱い ("none"の場合、LoRAはバイアスを学習しない)

  - task_type
      - タスクタイプ

  - target_modules
      - LoRAを適用するターゲットモジュール (前のコードで特定した層)
"""

peft_config = LoraConfig(
    r=16,
    lora_alpha=32,
    lora_dropout=0.05,
    bias="none",
    task_type="CAUSAL_LM",
    target_modules=modules,
)

model = get_peft_model(model, peft_config)

python

"""
学習に用いるデータセットの指定

1. megagonlabs/instruction_ja　（ライセンス　MIT：コピー、変更、マージ、公開、配布に制限のないライセンス）
　
https://github.com/megagonlabs/instruction_ja
   
2. 感想付きニュース雑談対話コーパス V3ファイル　（ライセンス　MIT：コピー、変更、マージ、公開、配布に制限のないライセンス）
 
https://github.com/fukanarita/newschat-with-impression
   
１．と２．のデータセットを「質問」と「回答」の形式に加工してマージした　megagonlabs_instruction_ja_V3.json　を作成し、データセットとした。）。
"""

dataset = load_dataset("json", data_files="./megagonlabs_instruction_ja_V3.json")
dataset

学習時のプロンプトフォーマットの定義

python

prompt = """### 指示
{}
### 回答
{}"""


"""
formatting_prompts_func: 各データをプロンプトに合わせた形式に合わせる
"""
EOS_TOKEN = tokenizer.eos_token # トークナイザーのEOSトークン（文末トークン）
def formatting_prompts_func(examples):
    input = examples["text"] # 入力データ
    output = examples["output"] # 出力データ
    text = prompt.format(input, output) + EOS_TOKEN # プロンプトの作成
    return { "formatted_text" : text, } # 新しいフィールド "formatted_text" を返す
pass

# # 各データにフォーマットを適用
dataset = dataset.map(
    formatting_prompts_func,
    num_proc= 4, # 並列処理数を指定
)

dataset

データを確認

print(dataset["train"]["formatted_text"][3])

データをtrainデータとtestデータに分割 (test_sizeの比率に)

python

"""
training_arguments: 学習の設定

  - output_dir:
      -トレーニング後のモデルを保存するディレクトリ

  - per_device_train_batch_size:
      - デバイスごとのトレーニングバッチサイズ

  - per_device_
  _batch_size:
      - デバイスごとの評価バッチサイズ

  - gradient_accumulation_steps:
      - 勾配を更新する前にステップを積み重ねる回数

  - optim:
      - オプティマイザの設定

  - num_train_epochs:
      - エポック数

  - eval_strategy:
      - 評価の戦略 ("no"/"steps"/"epoch")

  - eval_steps:
      - eval_strategyが"steps"のとき、評価を行うstep間隔

  - logging_strategy:
      - ログ記録の戦略

  - logging_steps:
      - ログを出力するステップ間隔

  - warmup_steps:
      - 学習率のウォームアップステップ数

  - save_steps:
      - モデルを保存するステップ間隔

  - save_total_limit:
      - 保存しておくcheckpointの数

  - max_steps:
      - トレーニングの最大ステップ数

  - learning_rate:
      - 学習率

  - fp16:
      - 16bit浮動小数点の使用設定（第8回演習を参考にすると良いです）

  - bf16:
      - BFloat16の使用設定

  - group_by_length:
      -  入力シーケンスの長さによりバッチをグループ化 (トレーニングの効率化)

  - report_to:
      - ログの送信先 ("wandb"/"tensorboard"など)
"""

training_arguments = TrainingArguments(
    output_dir=new_model_id,
    per_device_train_batch_size=1,
    gradient_accumulation_steps=2,
    optim="paged_adamw_32bit",
    num_train_epochs=4,
    logging_strategy="steps",
    logging_steps=10,
    warmup_steps=10,
    save_steps=100,
    save_total_limit = 2,
    max_steps = -1,
    learning_rate=1e-6,
    fp16=False,
    bf16=False,
    seed = 1000,
    group_by_length=True,
    report_to="none"
)

python

"""
SFTTrainer: Supervised Fine-Tuningに関する設定

  - model:
      - 読み込んだベースのモデル

  - train_dataset:
      - トレーニングに使用するデータセット

  - eval_dataset:
      - 評価に使用するデータセット

  - peft_config:
      - PEFT（Parameter-Efficient Fine-Tuning）の設定（LoRAを利用する場合に指定）

  - max_seq_length:
      - モデルに入力されるシーケンスの最大トークン長

  - dataset_text_field:
      - データセット内の学習に使うテキストを含むフィールド名

  - tokenizer:
      - モデルに対応するトークナイザー

  - args:
      - トレーニングに使用するハイパーパラメータ（TrainingArgumentsの設定を指定）

  - packing:
      - 入力シーケンスのパッキングを行うかどうかの設定 (False に設定することで、各入力を独立して扱う)
"""
trainer = SFTTrainer(
    model=model,
    train_dataset=dataset["train"],
    peft_config=peft_config,
    max_seq_length= 512,
    dataset_text_field="formatted_text",
    tokenizer=tokenizer,
    args=training_arguments,
    packing= False,
)

model.config.use_cache = False # キャッシュ機能を無効化
trainer.train() # トレーニングを実行

タスクとなるデータの読み込み

omnicampusの開発環境では、左にタスクのjsonlをドラッグアンドドロップしてから実行。

python

import json
datasets = []
with open("./elyza-tasks-100-TV_0.jsonl", "r") as f:
    item = ""
    for line in f:
      line = line.strip()
      item += line
      if item.endswith("}"):
        datasets.append(json.loads(item))
        item = ""

モデルによるタスクの推論

python

from tqdm import tqdm

results = []
for data in tqdm(datasets):

  input = data["input"]

  prompt = f"""### 指示
  {input}
  ### 回答
  """

  tokenized_input = tokenizer.encode(prompt, add_special_tokens=False, return_tensors="pt").to(model.device)
  attention_mask = torch.ones_like(tokenized_input)

  with torch.no_grad():
      outputs = model.generate(
          tokenized_input,
          attention_mask=attention_mask,
          max_new_tokens=100,
          do_sample=False,
          repetition_penalty=1.2,
          pad_token_id=tokenizer.eos_token_id
      )[0]
  output = tokenizer.decode(outputs[tokenized_input.size(1):], skip_special_tokens=True)

  results.append({"task_id": data["task_id"], "input": input, "output": output})

提出用jsolの作成

必須なのはtask_idとoutput

python

import re
jsonl_id = re.sub(".*/", "", new_model_id)
with open(f"./{jsonl_id}-outputs.jsonl", 'w', encoding='utf-8') as f:
    for result in results:
        json.dump(result, f, ensure_ascii=False)  # ensure_ascii=False for handling non-ASCII characters
        f.write('\n')

モデルとトークナイザーをHugging Faceにアップロード

python

model.push_to_hub(new_model_id, token=HF_TOKEN, private=True) # Online saving
tokenizer.push_to_hub(new_model_id, token=HF_TOKEN, private=True) # Online saving

rmycy/llm-jp-3-13b-finetune

概要

推論方法

Training Details

Hugging Face Token

モデルを読み込み

学習時のプロンプトフォーマットの定義

データを確認

データをtrainデータとtestデータに分割 (test_sizeの比率に)

タスクとなるデータの読み込み

omnicampusの開発環境では、左にタスクのjsonlをドラッグアンドドロップしてから実行。

モデルによるタスクの推論

提出用jsolの作成

必須なのはtask_idとoutput

モデルとトークナイザーをHugging Faceにアップロード

rmycy/
llm-jp-3-13b-finetune