from transformers import AutoModelForSeq2SeqLM, AutoTokenizer

# 모델 및 토크나이저 로드
model = AutoModelForSeq2SeqLM.from_pretrained("seokhyokang/kobart-cosmetics-qa")
tokenizer = AutoTokenizer.from_pretrained("seokhyokang/kobart-cosmetics-qa")

# 질문에 대한 답변 생성 함수
def generate_answer(question, model, tokenizer, device="cuda"):
    """
    질문에 대한 답변을 생성하는 함수
    """
    model.eval()
    inputs = tokenizer(
        question, 
        return_tensors="pt", 
        max_length=128, 
        padding="max_length", 
        truncation=True
    ).to(device)
    
    outputs = model.generate(
        inputs.input_ids,
        max_length=128,
        num_beams=4,
        early_stopping=True
    )
    
    answer = tokenizer.decode(outputs[0], skip_special_tokens=True)
    return answer

추론 예시

python

test_questions = [
    "수입화장품의 제조원 주소는 영문 또는 국문 중 무엇으로 기재해야 하나요?",
    "화장품 제조사가 제품을 책임판매업자에게 제공할 때, 등록이 요구되나요?",
    "지루성 두피용 샴푸로 광고해도 괜찮은가요?",
    "우유팩 형태의 핸드워시 용기가 식품 모방 화장품에 해당되나요?",
    "화장품 표시사항으로 바코드 대신 QR코드 표시가 가능한가요?",
]

print("-" * 50)
for question in test_questions:
    answer = generate_answer(question, model, tokenizer, device)
    print(f"질문: {question}")
    print(f"생성된 답변: {answer}")
    print("-" * 50)

# 출력 예시
# --------------------------------------------------
# 질문: 수입화장품의 제조원 주소는 영문 또는 국문 중 무엇으로 기재해야 하나요?
# 생성된 답변: 제조원 정보는 쉽게 읽히고 이해할 수 있는 한글로 표시해야 하며, 외국어도 함께 기재할 수 있습니다.
# --------------------------------------------------
# 질문: 화장품 제조사가 제품을 책임판매업자에게 제공할 때, 등록이 요구되나요?
# 생성된 답변: 소비자에게 직접 판매하지 않으면, 책임판매업 등록 대상이 아닙니다.
# --------------------------------------------------
# 질문: 지루성 두피용 샴푸로 광고해도 괜찮은가요?
# 생성된 답변: 지루성 두피는 질병을 암시할 수 있으므로, 화장품 광고에 사용하는 것은 부적절합니다. 
# --------------------------------------------------
# 질문: 우유팩 형태의 핸드워시 용기가 식품 모방 화장품에 해당되나요?
# 생성된 답변: 식품으로 오인될 가능성이 있는 용기는 화장품법 위반에 해당할 수 있으니 주의해야 합니다. 
# --------------------------------------------------
# 질문: 화장품 표시사항으로 바코드 대신 QR코드 표시가 가능한가요?
# 생성된 답변: 화장품 바코드 표시 및 관리요령에서 규정하고 있는 바코드 종류만 사용 가능합니다.
# --------------------------------------------------