Qwen3.5-9B Korean Essay Scorer — Real 2K + Synthetic 500

주요 결과

모델 구성

• Base model: Qwen/Qwen3.5-9B
• Base revision: 21eca8a083a2121a92fba681f4a7c72cf20ff1a7
• LoRA: rank 32, alpha 64, dropout 0.05
• Head: 마지막 non-padding token → linear 3-output → 1 + 4 × sigmoid
• 입력 길이: 최대 2,048 tokens, truncation 없음
• 추론: 3개 평가 프롬프트의 uniform mean
• 정수 경계: [1.5, 2.5, 3.5, 4.5]

학습

• 실제 학습 데이터 2,000건
• 합성 데이터 500건, sample weight 0.5
• Huber loss, 4 epochs, seed 42
• Qwen3.5-9B LoRA fine-tuning

사용법

파일

• adapter_model.safetensors: LoRA adapter
• adapter_config.json: PEFT 설정과 고정 base revision
• score_head.safetensors: content/organization/expression 회귀 head
• scorer_config.json: pooling, 점수 범위, 프롬프트 ensemble 설정
• prompts/: 학습·추론에 사용한 3개 평가 프롬프트
• inference.py: 최소 재현 코드

한계와 주의사항

• 검증 결과는 공개 validation 400건에 대한 로컬 개발 지표입니다.
• 합성 데이터는 실제 데이터와 점수 분포·문체 다양성이 달랐습니다.
• 합성 1,000건은 real-only보다 두 지표가 모두 하락했으며, 합성 2,000건도 500건보다 낮았습니다.
• 자동화된 고위험 의사결정이나 단독 평가에 사용하지 마십시오.
• 현재 프로젝트 코드에는 별도 오픈소스 라이선스가 없고 학습 데이터의 공개·재배포 조건도 별도 확인이 필요합니다. 권리 검토가 끝날 때까지 이 모델 저장소를 private로 유지하십시오.