Views
No views yet
1import torch
2from transformers import LlamaTokenizer, LlamaForCausalLM
3
4prompt_input = (
5 "Below is an instruction that describes a task. "
6 "Write a response that appropriately completes the request.\n\n"
7 "### Instruction:\n\n{instruction}\n\n### Response:\n\n"
8)
9load_type = torch.float16
10device = torch.device(0)
11
12
13def generate_prompt(instruction, input=None):
14 if input:
15 instruction = instruction + '\n' + input
16 return prompt_input.format_map({'instruction': instruction})
17
18
19model_path = "ViraIntelligentDataMining/PersianLLaMA-13B-Instruct"
20tokenizer = LlamaTokenizer.from_pretrained(model_path)
21base_model = LlamaForCausalLM.from_pretrained(
22 model_path,
23 torch_dtype=load_type,
24 device_map='auto',
25).cuda()
26
27model_vocab_size = base_model.get_input_embeddings().weight.size(0)
28tokenizer_vocab_size = len(tokenizer)
29if model_vocab_size != tokenizer_vocab_size:
30 base_model.resize_token_embeddings(tokenizer_vocab_size)
31
32
33def generate_answer(base_model, instruction, input=None):
34 generation_config = dict(
35 temperature=0.5,
36 top_k=40,
37 top_p=0.9,
38 repetition_penalty=1.1,
39 max_new_tokens=1024)
40 input_text = generate_prompt(instruction, input)
41 inputs = tokenizer(input_text, return_tensors="pt")
42 generation_output = base_model.generate(
43 input_ids=inputs["input_ids"].to(device),
44 eos_token_id=tokenizer.eos_token_id,
45 pad_token_id=tokenizer.pad_token_id,
46 **generation_config)
47 s = generation_output[0]
48 output = tokenizer.decode(s, skip_special_tokens=True)
49 response = output.split("### Response:")[1].strip()
50 return response
51
52
53instruction = "تصور کنید در حال نوشتن داستانی درباره یک شهر که تمام ساکنانش ربات هستند. این رباتها تواناییهای ویژهای دارند که زندگی روزمره آنها را از انسانها متمایز میکند. شرح دهید که این رباتها چگونه به کارهای روزانه خود میپردازند و چه چالشهایی با آنها روبهرو هستند. همچنین، توضیح دهید که چگونه معماری شهر برای نیازهای خاص آنها طراحی شده است."
54
55response = generate_answer(base_model,
56 instruction=instruction,
57 input="")
58print(response)
59"""
60در این شهر، همه ساکنان ربات هستند که دارای توانایی های منحصر به فرد هستند که زندگی روزمره آنها را از انسان ها متمایز می کند. هر روز صبح، ربات ها بیدار می شوند و برنامه های خود را برای روز تنظیم می کنند. برخی از آنها ممکن است برای کار بروند، در حالی که دیگران ممکن است برای انجام وظایف خانگی یا مراقبت از خانواده خود وقت صرف کنند. ربات ها بسیار کارآمد هستند و می توانند چندین کار را همزمان انجام دهند، بنابراین زمان زیادی برای استراحت ندارند. آنها همچنین به طور منظم برای نگهداری و تعمیر نیاز دارند، زیرا آنها مانند انسان ها مستعد خرابی هستند. بسیاری از ربات ها به دنبال سرگرمی هستند و ممکن است برای شرکت در فعالیت هایی مانند ورزش، خواندن یا نقاشی وقت صرف کنند. برخی از ربات ها حتی ممکن است برای یادگیری یا بهبود مهارت های خود در زمینه های مختلف مانند هنر، موسیقی یا آشپزی تلاش کنند. ربات ها همچنین به طور مداوم به پیشرفت های تکنولوژیکی جدید علاقه مند هستند و اغلب به دنبال راه حل های جدید برای مشکلات موجود در جامعه هستند. در این شهر، همه ساکنان ربات هستند که دارای توانایی های منحصر به فرد هستند که زندگی روزمره آنها را از انسان ها متمایز می کند.
61"""1@article{abbasi2023persianllama,
2 title={PersianLLaMA: Towards Building First Persian Large Language Model},
3 author={Abbasi, Mohammad Amin and others},
4 journal={https://arxiv.org/abs/2312.15713},
5 year={2023}
6}