Gorani Model Card
소개 (Introduce)
이 모델은 번역을 위한 모델입니다. 한국 고유어의 정확한 번역을 생성하기 위해 한국어, 영어, 일본어의 언어 데이터를 혼합하여 unsloth/Llama-3.2-1B-Instruct-bnb-4bit 을 학습시켜 생성된 gorani-1B-4bit 입니다.한국어, 영어, 일본어 만 번역을 지원합니다.
모델 정보
개발자 : haeun0420모델 유형 : llama 를 기반으로 하는 1B 매개변수 모델인 gorani-1B 지원 언어 : 한국어, 영어, 일본어라이센스 : llama
Training Hyperparameters
per_device_train_batch_size : 8gradient_accumulation_steps : 1warmup_steps : 5learning_rate : 2e-4fp16 : not is_bfloat16_supported()num_train_epochs : 3weight_decay : 0.01lr_scheduler_type : "linear"
학습 데이터
학습 성능 비교
📊 번역 평가 결과 비교
평가 지표 LLama 3.2-1B Gorani -1B BERTScore (Precision) 0.6014 0.8977 BERTScore (Recall) 0.6649 0.8955 BERTScore (F1 Score) 0.6303 0.8965 COMET Score 0.5364 0.8275
image/png Training Results
image/png 
