本モデルはHugging Face Hubにアップロードされている既存LLMをFine-Tuningするモデルです。
ELYZA-tasks-100-TVと呼ばれるベンチマークで高いスコアを出すローカルLLMの開発を目標としました。
llm-jp-3 1.8B, 3.7B, 13Bのsnapshotをダウンロードし、modelsディレクトリ格納してください。
今回はLLM-jp の公開しているIchikara Instructionを学習用データセットとして使用するので、申請の後ダウンロードして使用してください。