from transformers import AutoModelForCausalLM, AutoTokenizer

model = AutoModelForCausalLM.from_pretrained("ljh4367/jeju-dialect-qwen")
tokenizer = AutoTokenizer.from_pretrained("ljh4367/jeju-dialect-qwen")

text = "안녕하세요"
inputs = tokenizer(text, return_tensors="pt")
outputs = model.generate(**inputs)
print(tokenizer.decode(outputs[0]))

GGUF 모델 사용 (llama.cpp)

./llama-cli -m jeju-qwen-q4.gguf -p "안녕하세요"

모델 카드

개발자: ljh4367
언어: 한국어 (제주 방언)
라이선스: Apache 2.0