Views
No views yet
| タグ | 対象 |
|---|---|
<phi_age> | 年齢 |
<phi_id> | 識別番号 |
<phi_tel> | 電話番号 |
<phi_job> | 職業 |
<phi_location> | 住所・地名 |
<phi_person> | 人名 |
<phi_hospital> | 医療機関名 |
1import torch
2from transformers import AutoTokenizer, AutoModelForCausalLM, BitsAndBytesConfig
3
4model_id = "sociocom/MedPHINER-Llama-3.1-Swallow-8B-Instruct-v0.5"
5
6tokenizer = AutoTokenizer.from_pretrained(model_id)
7
8quant_cfg = BitsAndBytesConfig(
9 load_in_4bit=True,
10 bnb_4bit_compute_dtype=torch.bfloat16,
11 bnb_4bit_use_double_quant=True,
12 bnb_4bit_quant_type="nf4",
13)
14
15model = AutoModelForCausalLM.from_pretrained(
16 model_id,
17 device_map="auto",
18 dtype=torch.bfloat16,
19 quantization_config=quant_cfg,
20)
21model.eval()| パラメータ | 値 |
|---|---|
| LoRA rank | 16 |
| LoRA alpha | 64 |
| LoRA dropout | 0.05 |
| 学習エポック数 | 5 |
| バッチサイズ | 8 |
| 学習率 | 2e-4 |
| オプティマイザ | AdamW |