Views
No views yet
1from transformers import GPTNeoForCausalLM, GPT2Tokenizer
2model = GPTNeoForCausalLM.from_pretrained("NlpHUST/gpt-neo-vi-small")
3tokenizer = GPT2Tokenizer.from_pretrained("NlpHUST/gpt-neo-vi-small")
4prompt = "Ngay sau Tết Nguyên đán Tân Sửu, hiện tượng giá đất tăng tại nhiều địa phương. Thị trường nhộn nhịp, tạo ra những cơn sóng sốt đất khó tin khiến bộ ngành, địa phương đưa cảnh báo."
5input_ids = tokenizer(prompt, return_tensors="pt").input_ids
6gen_tokens = model.generate(input_ids, do_sample=True, temperature=1.0, max_length=1024)
7gen_text = tokenizer.batch_decode(gen_tokens)[0]
8print(gen_text)
9
10
11