from transformers import AutoModelForCausalLM, AutoTokenizer
from peft import PeftModel
import torch

# Base 모델 로드
base_model = AutoModelForCausalLM.from_pretrained(
    "meta-llama/Llama-3.1-8B",
    torch_dtype=torch.float16,
    device_map="auto",
)
tokenizer = AutoTokenizer.from_pretrained("meta-llama/Llama-3.1-8B")

# LoRA 어댑터 로드
model = PeftModel.from_pretrained(base_model, "YOUR_USERNAME/spicy-motivator-dpo")

# 생성
prompt = "### 명언: 실패는 성공의 어머니이다.\n### 비꼬는 답변:"
inputs = tokenizer(prompt, return_tensors="pt").to(model.device)
outputs = model.generate(**inputs, max_new_tokens=100, temperature=0.7)
print(tokenizer.decode(outputs[0], skip_special_tokens=True))

프로젝트 정보

충남대학교 강화학습 수업 텀 프로젝트
PPO vs DPO 비교 연구

Guardrium/spicy-motivator-dpo

Spicy Motivator - DPO

모델 설명

사용법

프로젝트 정보

Guardrium/
spicy-motivator-dpo