Views
No views yet
1from transformers import AutoTokenizer, AutoModelForCausalLM
2
3
4def load_model(model_path):
5 """ ✅ 학습된 모델과 토크나이저 로드 """
6 tokenizer = AutoTokenizer.from_pretrained(model_path)
7 model = AutoModelForCausalLM.from_pretrained(model_path)
8 model.eval()
9 return tokenizer, model
10
11
12def generate_description(model, tokenizer, product_name, max_length=512):
13 """ ✅ 상품명에 대한 설명을 생성하는 함수 """
14
15 # ✅ EOS 토큰 설정
16 eos_token = tokenizer.eos_token or tokenizer.pad_token or "<|endoftext|>"
17 stop_token_id = tokenizer.eos_token_id or tokenizer.pad_token_id or \
18 tokenizer.encode(eos_token, add_special_tokens=False)[0]
19
20 # ✅ 훈련된 데이터 패턴에 맞춘 프롬프트
21 prompt = f"상품명: {product_name}\n상품 설명: "
22 # ✅ 토큰화 및 입력값 변환
23 inputs = tokenizer(prompt, return_tensors="pt")
24 inputs.pop("token_type_ids", None)
25
26 # ✅ 생성 실행
27 output = model.generate(
28 **inputs,
29 max_new_tokens=max_length,
30 repetition_penalty=1.15, # ✅ 반복 방지
31 temperature=1.0, # ✅ 창의성 조절
32 top_p=0.9, # ✅ 다양한 응답 생성
33 top_k=40, # ✅ 확률적으로 상위 50개 단어 중 선택
34 do_sample=True, # ✅ 샘플링 활성화 (중요!)
35 pad_token_id=stop_token_id, # ✅ 패딩 시 EOS 토큰 적용
36 eos_token_id=stop_token_id, # ✅ EOS 토큰 적용
37 )
38
39 # ✅ 결과 디코딩
40 generated_text = tokenizer.decode(output[0], skip_special_tokens=True)
41
42 return generated_text
43
44
45if __name__ == "__main__":
46 """ ✅ 메인 실행 함수 """
47 model_path = "UICHEOL-HWANG/EcomGen-0.0.1v" # ✅ 학습된 모델 경로
48 tokenizer, model = load_model(model_path)
49
50 # ✅ 테스트할 상품명 입력
51 product_name = "김갑생할머니김"
52 description = generate_description(model, tokenizer, product_name)
53
54 print("\n=== 생성된 상품 설명 ===\n")
55 print(description)
56