Views
No views yet
1from transformers import AutoModelForCausalLM, AutoTokenizer
2from peft import PeftModel
3import torch
4
5base = "Qwen/Qwen3-4B-Instruct-2507"
6adapter = "さよかよ/2025LLM"#######################"your_id/your-repo"#########さよかよ/2025LLM#########
7 ###ハギングフェイスのID/ファイル名
8 ######################################################################
9 ###########################################################################
10tokenizer = AutoTokenizer.from_pretrained(base)
11model = AutoModelForCausalLM.from_pretrained(
12 base,
13 torch_dtype=torch.float16,
14 device_map="auto",
15)
16model = PeftModel.from_pretrained(model, adapter)