본 실험은 한국어 영화 리뷰 데이터셋(NSMC)을 사용하여 meta-llama/Llama-2-7b-chat-hf 모델을 미세 튜닝하고, 한국 영화 리뷰의 긍정 또는 부정을 분류하는 모델을 학습하였습니다. 실험은 Hugging Face의 PEFT와 SFTTrainer를 사용하여 수행했으며, 평가는 정확도 및 혼돈 행렬을 포함한 다양한 지표를 통해 이루어졌습니다.
-
훈련 데이터 확장
훈련 데이터의 개수를 2000개부터 시작했고 2000개씩 확장하여 학습시켰습니다.
-
프롬프트 템플릿 변경
다양한 프롬프트 템플릿을 시도하여 어떤 형식이 모델의 성능을 향상시키는지 평가했습니다.
-
훈련 총 스텝 수 변경
훈련 스텝이 높을수록 더 많은 데이터를 처리할 수 있습니다. 하지만 너무 높거나 훈련 데이터의 개수가 충분하지 않다면 오버피팅될 수 있기 때문에 훈련 데이터 개에 따른 훈련 총 스탭 수를 적절하게 설정해야 합니다. 따라서 데이터 양에 따라 적절하게 훈련 총 스탭 수를 변경하면서 모델의 성능을 향상시키기 위해 노력했습니다.
-
드롭아웃 값 변경
오버피팅을 되지 않도록 드롭아웃의 값을 0.05에서 0.15로 변경했습니다.
정확도가 0.9 이상이 되도록 위의 4가지 방법을 조합하여 많은 실험을 해봤지만 정확도 값의 최대는 0.874였습니다.
정확도는 0.874로 모델이 1000개 테스트 데이터 중 874개에 대해 정확한 예측을 수행했다.
TP : 445, TN : 429, FP : 63, FN : 63의 결과가 나왔다.
