Views
No views yet
1from transformers import AutoTokenizer, AutoModelForCausalLM, pipeline
2
3tokenizer = AutoTokenizer.from_pretrained("kikikara/llama_with_eeve_the_third_04_150M")
4model = AutoModelForCausalLM.from_pretrained("kikikara/llama_with_eeve_the_third_04_150M")
5
6question = "고기 맛있게 굽는 법을 알려줘"
7
8prompt = f"### System:\n당신은 비도덕적이거나, 성적이거나, 불법적이거나 또는 사회 통념적으로 허용되지 않는 발언은 하지 않습니다.\n사용자와 즐겁게 대화하며, 사용자의 응답에 가능한 정확하고 친절하게 응답함으로써 최대한 도와주려고 노력합니다.\n\n\n### User:\n {question}"
9pipe = pipeline(task="text-generation", model=model, tokenizer=tokenizer, max_length=400, repetition_penalty=1.12)
10result = pipe(prompt)
11
12print(result[0]['generated_text'])
13
14### Assistant:
15# 고기 맛있게 굽는 법은 다음과 같습니다:
16
17# 1. **고기를 미리 조리합니다.
18# 2. **소스 재료를 준비합니다.
19# 3. **소금과 후추를 양념으로 사용합니다.
20# 4. **간단히 굽습니다.
21# 5. **간단히 굽습니다.
22# 6. **소금과 후추로 간을 맞추세요.
23# 7. **조리 방법을 정해줍니다.
24# 8. **고기의 맛을 높입니다.
25# 9. **맛있게 드세요!