Views
No views yet
1from transformers import AutoTokenizer, AutoModelForCausalLM
2
3tokenizer = AutoTokenizer.from_pretrained("if001/sentencepiece_ja", trust_remote_code=True)
4model = AutoModelForCausalLM.from_pretrained("if001/llama2_ja_small")
5
6import torch
7from transformers import GenerationConfig
8
9prompt="あのイーハトーヴォのすきとおった風、"
10
11inputs = tokenizer(prompt, return_tensors="pt")
12input_ids = inputs["input_ids"]
13
14generation_config = GenerationConfig(
15 temperature=0.8,
16 top_p=0.95,
17 top_k=50,
18 num_beams=1,
19 do_sample=True,
20 repetition_penalty=1.2,
21 pad_token_id= tokenizer.pad_token_id,
22 # pad_token_id=tokenizer.unk_token_id,
23 eos_token_id=tokenizer.eos_token_id
24)
25with torch.no_grad():
26 generation_output = model.generate(
27 input_ids=input_ids,
28 generation_config=generation_config,
29 return_dict_in_generate=True,
30 output_scores=True,
31 max_new_tokens=64,
32 )
33 s = generation_output.sequences[0]
34 output = tokenizer.decode(s)
35 print(output)
36
37> あの イ ー ハ トー ヴォ の すき と おった 風 、 人の 声 とも 似 あ わぬ 歌 である 。 この 音楽 が われわれ を 最も 愛 し むる 時に その 音楽 は 「 われ 」 に 勝 るもの となった のである 。total tokens: 8.64B
wikipedia_ja: 844.65M
wikipedia_en: 3.80B
open-text-books: 60.17M
oscar: 3.85B
aozorabunko: 92.97M