!pip install -qU transformers accelerate

from transformers import AutoTokenizer
import transformers
import torch

model = "sh2orc/Llama-3-Korean-12B"
messages = [{"role": "user", "content": "What is a large language model?"}]

tokenizer = AutoTokenizer.from_pretrained(model)
prompt = tokenizer.apply_chat_template(messages, tokenize=False, add_generation_prompt=True)
pipeline = transformers.pipeline(
    "text-generation",
    model=model,
    torch_dtype=torch.float16,
    device_map="auto",
)

outputs = pipeline(prompt, max_new_tokens=256, do_sample=True, temperature=0.7, top_k=50, top_p=0.95)
print(outputs[0]["generated_text"])

Q&A

Q. 여행을 가려고 하는데 조언을 해줘요
A. 여행을 가려고 하신다면, 여행 목적지, 기간, 예산 등을 고려하여 일정을 미리 계획하고 예약을 하시는 것이 좋습니다. 또한, 여행지의 날씨, 여행 경비, 여행 일정 등을 사전에 파악하여 안전하고 편안한 여행을 즐길 수 있도록 준비해야 합니다. 이외에도, 여행지에서 필요한 문화, 언어, 음식, 안전 등에 대한 정보를 사전에 파악하여 새로운 경험을 즐길 수 있도록 준비해야 합니다.

Q. 2차 세계대전에 대해서 알려줘
A. 2차 세계대전은 1939년 9월 1일 독일이 폴란드를 침공하면서 시작되었고, 1945년 5월 8일 연합군이 독일을 점령하면서 종료되었습니다. 이 전쟁은 제1차 세계대전을 종식시킨 베르사유 조약에 따라 독일이 패배한 결과였습니다. 이 전쟁은 유럽, 아시아, 아프리카 등 전 세계에서 발생했으며, 많은 국가들이 전쟁에 참여했습니다. 이 전쟁은 1945년 5월 8일 연합군이 독일을 점령하면서 종료되었습니다.

Q. 돈을 빌렸는데, 돈을 안 갚으면?
A. 돈을 빌렸지만 갚지 않는 것은 불법이며, 이는 사기죄나 부정거래죄로 처벌될 수 있습니다. 또한, 빌린 돈을 갚지 못하면 법적인 처벌을 받을 뿐만 아니라, 갚을 사람의 신용에 큰 타격을 줄 수 있습니다. 만약 돈을 빌렸지만 갚지 못하는 상황이라면, 사전에 갚을 사람의 동의와 상환 계획을 세워서 해결하는 것이 좋습니다.

Q. 건강하게 살려면?
A. 건강하게 살려면 규칙적인 운동과 균형 잡힌 식습관, 충분한 수면과 스트레스 관리가 필요합니다. 먼저, 규칙적인 운동은 심혈관 계통을 강화하고, 혈압을 조절하며, 체지방을 감소시키는 등 많은 효과가 있습니다. 따라서, 일주일에 최소 150분 이상의 꾸준한 운동이 필요합니다.

또한, 균형 잡힌 식습관은 칼로리 섭취와 섭취하는 음식의 종류에 따라 체중 유지와 건강 상태가 크게 영향 받습니다. 따라서, 과다한 탄수화물 섭취보다는 단백질과 채소 등 영양성분이 높은 식품을 선택하는 것이 좋습니다.

또한, 충분한 수면은 몸의 피로 회복과 면역력 향상에 중요합니다. 하루에 7-8시간 이상의 수면을 취하는 것이 좋습니다.

마지막으로, 스트레스는 건강에 해로울 수 있습니다. 건강한 식습관과 규칙적인 운동으로 스트레스를 관리하며, 취미 활동이나 휴식과 같은 방법으로 스트레스를 해소하는 것이 좋습니다.

추가 답변:

또한, 건강한 식습관에는 과식하지 않는 것도 중요합니다. 과다한 칼로리 섭취는 체중 증가와 여러 건강 질환을 유발할 수 있기 때문입니다. 따라서, 식사량을 조절하고, 칼로리 섭취를 기록하여 건강한 식습관을 유지하는 것이 좋습니다.

또한, 각자의 체질에 맞는 운동이 중요합니다. 일반적으로 꾸준한 걷기나 조깅, 수영 등이 추천되지만, 체질에 따라 자신에게 맞는 운동을 찾는 것이 좋습니다.

마지막으로, 건강한 식습관과 운동은 단기적인 건강 증진에 도움이 되는 것뿐만 아니라, 장기적으로는 각종 질병 예방에도 큰 역할을 합니다. 따라서, 건강한 식습관과 운동은 평생에 걸쳐 꾸준히 유지하는 것이 좋습니다.

Q. 나이가 들면 무엇을 먼저 고민해야해?
A. 나이가 들면 할아버지나 할머니가 되어 가족들을 돌보는 것이 가장 큰 책임입니다. 하지만 그만큼 가족들과 함께하고 싶다는 생각이 들겠지만, 이는 모든 사람들이 생각하는 것이 아닙니다.

나이가 들면 전문 분야에서 일하게 되면서 새로운 기술을 배우거나 다른 지역에서 일하게 되는 경우도 있습니다. 이러한 경우, 가족들과 함께할 수 없다는 것이 가장 큰 고민입니다.

하지만, 이러한 상황에서도 가족들과 함께할 수 있는 방법이 있습니다. 예를 들어, 가족들과 함께할 수 있는 휴가나 가족 모임에 참여하거나, 가족들과 함께할 수 있는 프로젝트에 참여하여 가족들과 함께할 수 있는 시간을 가질 수 있습니다.

또한, 가족들과 함께할 수 없더라도 전화나 문자, 이메일을 통해 가족들과 소통하고, 가족들의 생과 사를 알아가는 것이 중요합니다.

결론적으로, 나이가 들수록 가족들과 함께할 수 있는 방법이 중요하며, 새로운 기술과 도전을 배우면서 가족들과 소통할 수 있는 방법을 찾는 것이 가장 중요합니다.