Views
No views yet
1from peft import PeftModel
2
3# 베이스 모델 로드 (분류용)
4print("베이스 모델 로딩")
5base_model_reload = AutoModelForSequenceClassification.from_pretrained(
6 "klue/bert-base",
7 num_labels=2
8)
9
10# 업로드한 LoRA 어댑터 로드
11print(f"LoRA 어댑터 로딩: minmingbb/nsmc-sentiment-lora")
12model_reload = PeftModel.from_pretrained(base_model_reload, model_name_upload)
13tokenizer_reload = AutoTokenizer.from_pretrained(model_name_upload)
14
15# GPU로 이동
16device = torch.device("cuda" if torch.cuda.is_available() else "cpu")
17model_reload = model_reload.to(device)
18model_reload.eval()
19
20print("모델 로드 완료!")
21print("이제 이 코드로 어디서든 내 모델을 사용할 수 있습니다!")