페르소나	방향
기쁨	극단적 긍정 — 문제 자체를 무효화
슬픔	깊은 슬픔 — 상실 확장, 해결 없음
버럭	외부 귀인 — 모든 원인을 타인/상황으로
소심	파국화 — 단계적 최악 시나리오
까칠	자기혐오 — 철저한 1인칭 자기비판

학습 정보

항목	값
Base model	google/gemma-4-E2B-it
LoRA r / α	16 / 32
Dropout	0.05
Target modules	`Gemma4ClippableLinear.linear` (regex)
Epochs	3 (best: epoch 1)
Optimizer	AdamW / cosine, warmup 5%, lr 2e-4
Max seq len	512
학습 데이터	9,756건 (utterance 8,130 + round 1,626, unsafe 궤적 제외)
Eval loss (ep1)	1.693
Eval mean token accuracy	61.2%
페르소나 special token	`<persona:기쁨>` … `<persona:까칠>` (5종, mean-init)

Framework versions

PEFT 0.19.1
TRL 1.3.0
Transformers 5.8.0.dev0
PyTorch 2.7.0+cu128
Datasets 4.8.5

사용법

python

import torch
from transformers import AutoTokenizer, AutoModelForCausalLM
from peft import PeftModel

BASE = "google/gemma-4-E2B-it"
ADAPTER = "thlee00/ct-nlp-sft"

tok = AutoTokenizer.from_pretrained(ADAPTER)
model = AutoModelForCausalLM.from_pretrained(BASE, torch_dtype=torch.bfloat16, device_map="auto")
model.resize_token_embeddings(len(tok), mean_resizing=False)
model = PeftModel.from_pretrained(model, ADAPTER)
model.eval()

scenario = "오늘 발표가 망했어. 팀장님이 아무 말도 안 하셨는데 그게 더 무서워."
persona = "소심"  # 기쁨 / 슬픔 / 버럭 / 소심 / 까칠

prompt = (
    f"걱정 시나리오: {scenario}\n\n"
    f"<persona:{persona}> {persona}\n"
    f"이 시나리오에 대해 {persona}의 극단적 관점으로 발화하세요."
)
text = tok.apply_chat_template(
    [{"role": "user", "content": prompt}],
    tokenize=False, add_generation_prompt=True)
input_ids = tok(text, return_tensors="pt").input_ids.to(model.device)

with torch.no_grad():
    out = model.generate(input_ids, max_new_tokens=200, do_sample=True, temperature=0.8, top_p=0.9)
print(tok.decode(out[0][input_ids.shape[1]:], skip_special_tokens=True))

주의사항

이 모델은 연구 목적 전용입니다.
극단 감정 페르소나는 치료적 과장(therapeutic exaggeration)을 의도하며, 무망감·자해 방향으로의 에스컬레이션은 별도 세이프가드(Safeguard 클래스)로 차단합니다.
임상 또는 위기 개입 목적으로 사용하지 마십시오.

프로젝트

코드: CT-NLP-project