from transformers import AutoTokenizer, AutoModelForCausalLM
from peft import PeftModel

base_model = AutoModelForCausalLM.from_pretrained("elyza/Llama-3-ELYZA-JP-8B")
tokenizer = AutoTokenizer.from_pretrained("elyza/Llama-3-ELYZA-JP-8B")
model = PeftModel.from_pretrained(base_model, "eyepyon/judicial-exam-llama3-jpv51-lora-v3")

inputs = tokenizer("司法試験問題:", return_tensors="pt")
outputs = model.generate(**inputs, max_length=512)
response = tokenizer.decode(outputs[0], skip_special_tokens=True)
print(response)

マージ済みモデル版（eyepyon/judicial-exam-llama3-jpv51-merged-v3）

python

from transformers import AutoTokenizer, AutoModelForCausalLM

model = AutoModelForCausalLM.from_pretrained("eyepyon/judicial-exam-llama3-jpv51-merged-v3")
tokenizer = AutoTokenizer.from_pretrained("eyepyon/judicial-exam-llama3-jpv51-merged-v3")

inputs = tokenizer("司法試験問題:", return_tensors="pt")
outputs = model.generate(**inputs, max_length=512)
response = tokenizer.decode(outputs[0], skip_special_tokens=True)
print(response)

注意事項

このモデルは教育・研究目的で作成されています
実際の司法試験や法的判断には使用しないでください
出力結果は参考程度に留めてください

ライセンス

ベースモデルのLlama 3ライセンスに準拠します。