{
  "train_runtime": 145.8391,
  "train_samples_per_second": 6.171,
  "train_steps_per_second": 0.782,
  "total_flos": 2183773879388160.0,
  "train_loss": 1.1899489436233253,
  "epoch": 2.0,
  "tone_score": {
    "before_avg": 7.625,
    "after_avg": 8.25,
    "delta": 0.625,
    "n_prompts": 4,
    "judge_model": "gpt-4o-mini"
  },
  "eval_ppl": 2.94371740099828,
  "custom_eval_score": 1.0,
  "comparison": [
    {
      "prompt": "프로젝트 마감일을 일주일 연장해 달라고 정중하게 요청하는 이메일을 작성해 주세요.",
      "before": "제목: 프로젝트 마감일 연장 요청\n\n안녕하세요,\n\n저는 [이름]입니다. [회사 이름]에서 근무하고 있으며, 현재 진행 중인 [프로젝트 이름]에 대해 이메일을 보냅니다.\n\n[프로젝트의 상세 내용과 목표]를 위해, 저희 팀은 기존 계획대로 1주일 내에 마무리 작업을 완료해야 할 예정입니다. 그러나 최근 발생한 문제로 인해, 이 목표가 불가능하게 되었습니다.\n\n그러나, 이 문제 해결을 위해 필요한 추가 시간을 제공할 수 있는 방법을 찾고 있습니다. 이를 위해, 저희 팀은 1주일 연장을 요청드립니다. 이 연장된 기간 동안, 모든 작업이 원활히 진행될 수 있도록 최선을 다하겠습니다.\n\n우리 팀의 성공적인 수행을 위해, 이 요청에 대한 이해와 협조를 부탁드립니다. 또한, 가능한 한 빠른 시일 내에 이 요청을 처리해주실 것을 약속드립니다.\n\n감사합니다.\n[이름]\n[직위]\n[연락처 정보]",
      "after": "안녕하세요 [팀원 이름]님,\n\n저는 프로젝트의 마감일이 일주일 연장되어서 불편함을 드려 죄송합니다. 현재 진행 상황에 따라 추가적인 시간이 필요하다고 판단하여, 이에 대한 의견을 말씀드립니다.\n\n마감일 연장을 위해 필요한 조치와 계획을 제시하고자 합니다. 이를 통해 모든 구성원들이 협력할 수 있도록 하기 위한 방안입니다. 또한, 추가적인 피드백이나 의견을 부탁드립니다. \n\n이러한 변경 사항으로 인해 발생할 수 있는 불편을 사과하며, 앞으로 더욱 신속하고 효율적으로 작업을 진행하겠습니다. 감사합니다.\n\n[팀장/부서장 이름]\n[작성일자]",
      "score_before": 7.5,
      "score_after": 7.5,
      "delta": 0.0
    },
    {
      "prompt": "오랜만에 연락하는 친구에게 안부를 전하는 메시지를 작성해 주세요.",
      "before": "안녕하세요 [친구의 이름]님,\n\n오랜만에 연락드리게 되어 기쁩니다. 최근 어떻게 지내신가요? 건강이 좋으신지 확인하고 싶습니다.\n\n우리 사이에서 많이 이야기 나누고 싶은데, 언제든 말씀해주세요. 어떤 이야기나 관심 있는 주제가 있으시면 알려주시면 감사하겠습니다.\n\n또한, 어떠한 일이 있으면 언제든지 연락주세요. 항상 함께할 수 있어서 기쁩니다.\n\n감사합니다.\n[당신의 이름]",
      "after": "안녕하세요, [친구의 이름]님.\n\n오랜만에 연락드립니다. 최근 어떻게 지내신가요? 건강이 좋으시길 바라며, 일이나 개인적인 관심사에 대해 이야기 나누고 싶습니다. 어떤 소식을 들었는지 궁금합니다. \n\n우리 사이에서 흔히 듣던 이야기나, 새로운 경험에 대한 소감도 말씀해주시면 감사하겠습니다. 언제든 대화할 수 있는 시간을 갖도록 하겠습니다. \n\n이번 기회에 다시 만날 수 있기를 바랍니다. 항상 좋은 하루 보내시길 바랍니다. \n\n감사합니다.",
      "score_before": 8.5,
      "score_after": 8.5,
      "delta": 0.0
    },
    {
      "prompt": "일상에서 꾸준히 실천할 수 있는 운동 루틴을 추천해 주세요.",
      "before": "물론이죠! 일상생활 속에서 꾸준히 실천하는 운동 루틴을 소개해 드리겠습니다:\n\n1. **정기적인 걷기**: 일주일에 5-7회 정도 걸어보세요. 긴장감을 줄이고 신체를 활성화합니다.\n\n2. **무릎 없는 하루 계산기 사용**: 무릎 통증을 방지하고 체중 관리를 위해 매일 한 시간씩 하루 계산기를 사용하세요.\n\n3. **가벼운 스트레칭**: 일찍 일어나거나 편안한 상태에서 가벼운 스트레칭을 해보세요. 이는 근육의 유연성을 증진시키고, 일상 생활에서 발생할 수 있는 부상을 예방하는데 도움이 됩니다.\n\n4. **자전거 타기**: 자전거 타기는 전신 운동으로서 근육을 충분히 움직여줍니다. \n\n5. **수영**: 물과 함께 하는 운동은 균형 잡힌 몸을 유지하는 데 좋습니다. 또한, 물의 부드러움은 근육이 자극받아 더 효과적으로 운동됩니다.\n\n6. **요소별 운동**: 요소별 운동은 특정 기능을 강화하거나 개선하는 데 도움이 됩니다. 예를 들어, 하루 계산기 사용은",
      "after": "일상에서 꾸준히 실천할 수 있는 운동 루틴은 다음과 같습니다.\n\n1. **정기적인 체중 감량 운동**: 하루에 30분 정도의 가벼운 운동을 하면 효과적입니다. 예를 들어, 걷기, 자전거 타기, 또는 요가 등이 좋습니다.\n\n2. **스트레칭**: 일주일에 2-3회씩 스트레칭을 해보시는 것이 도움이 됩니다. 이는 근육의 유연성을 향상시키고, 신체의 불균형을 바로잡아줍니다.\n\n3. **식습관 개선**: 건강한 식사 습관을 유지하는 것은 중요한 부분입니다. 매일 같은 시간에 먹는 것이 좋으며, 과도한 음식 섭취를 줄이는 것도 필요합니다.\n\n4. **휴식과 자기 관리**: 정기적으로 쉬어보며, 자신에게 친절하게 대하려 노력하세요. 이를 통해 피로감을 줄이고, 건강한 생활을 유지할 수 있습니다.\n\n이러한 방법들을 통해 일상에서 작은 변화를 통해 건강한 삶을 살 수 있도록 도와드리겠습니다. 추가적인 질문이나 의견이 있으시면 언제든지 말씀해 주세요. 감사합니다.",
      "score_before": 7.0,
      "score_after": 8.5,
      "delta": 1.5
    },
    {
      "prompt": "효율적인 시간 관리 방법에 대해 조언해 주세요.",
      "before": "시간 관리는 효율적인 일상 생활을 유지하는 데 필수적입니다. 아래는 몇 가지 효과적인 시간 관리 방법들을 제안드립니다:\n\n1. 목표 설정: 먼저, 당신의 목표를 정확하게 이해하고 명시해야 합니다. 이 목표들은 당신이 무엇을 하고 싶어 하는지, 그리고 어떤 결과를 얻고자 하는지를 나타냅니다.\n\n2. 계획 작성: 목표를 달성하기 위해 필요한 작업들을 계획서로 작성합니다. 각 작업은 단계별로 나누어 진행할 수 있도록 해야 합니다.\n\n3. 우선순위 분석: 모든 작업 중에서 가장 중요한 것부터 시작하려면 우선순위를 분석하는 것이 중요합니다. 이것은 당신이 할 일이 무엇인지, 얼마나 중요한지, 그리고 얼마나 많은 시간과 에너지를 소모할 것인지를 결정하는데 도움이 됩니다.\n\n4. 시간 관리 기법 사용: 다양한 시간 관리 기법을 사용하여 시간을 효율적으로 활용할 수 있습니다. 예를 들어, Pomodoro Technique(포모도라 테크닉)은 25분 동안 집중한 작업을 하다가 5분간 쉬는 것을 반복하는 방식으로 시간을 관리합니다.\n\n5. 자동화: 필요하다면, 특정 작업을 자동화하는 것도 시간 관리를 위한 좋은 방법입니다. 예를 들어, 메일을 읽거나 공문서를 작성하는 등의 일은",
      "after": "효율적인 시간 관리를 위해 몇 가지 팁을 제안드립니다.\n\n먼저, 일정을 정리하는 것이 중요합니다. 목표를 설정하고 이를 달성하기 위한 계획을 세우는 과정에서 시간을 절약할 수 있습니다. 또한, 일정을 분단위로 나누어 진행하면 더 쉽게 집중할 수 있습니다. \n\n두 번째로, 소중한 시간을 허용하는 습관을 들이면 좋습니다. 이는 개인의 건강과 안전을 보장하는 데 도움이 됩니다. 마지막으로, 일정을 유지하기 위해 일정 관리 앱이나 프로그램을 활용하시는 것도 좋은 방법입니다. 이러한 방법들을 통해 효율적인 시간 관리를 할 수 있을 것입니다. 도움이 필요하시다면 언제든지 말씀해 주시면 감사하겠습니다.",
      "score_before": 7.5,
      "score_after": 8.5,
      "delta": 1.0
    }
  ]
}

Usage

python

import torch
from peft import PeftModel
from transformers import AutoModelForCausalLM, AutoTokenizer

base = AutoModelForCausalLM.from_pretrained("Qwen/Qwen2.5-1.5B-Instruct", torch_dtype=torch.bfloat16, device_map="auto")
model = PeftModel.from_pretrained(base, "Vjeong/qwen2.5-1.5b-korean-tone-lora")
tokenizer = AutoTokenizer.from_pretrained("Vjeong/qwen2.5-1.5b-korean-tone-lora")

messages = [{"role": "user", "content": "Hello!"}]
inputs = tokenizer.apply_chat_template(
    messages, add_generation_prompt=True, return_tensors="pt", return_dict=True
).to(model.device)
outputs = model.generate(**inputs, max_new_tokens=256)
prompt_len = inputs["input_ids"].shape[-1]
print(tokenizer.decode(outputs[0][prompt_len:], skip_special_tokens=True))

License

apache-2.0