Views
No views yet
1import torch
2from transformers import AutoTokenizer, AutoModelForCausalLM
3
4tokenizer = AutoTokenizer.from_pretrained("rinna/japanese-gpt-neox-3.6b", use_fast=False)
5model = AutoModelForCausalLM.from_pretrained("rinna/japanese-gpt-neox-3.6b")
6
7if torch.cuda.is_available():
8 model = model.to("cuda")
9
10text = "西田幾多郎は、"
11token_ids = tokenizer.encode(text, add_special_tokens=False, return_tensors="pt")
12
13with torch.no_grad():
14 output_ids = model.generate(
15 token_ids.to(model.device),
16 max_new_tokens=100,
17 min_new_tokens=100,
18 do_sample=True,
19 temperature=0.8,
20 pad_token_id=tokenizer.pad_token_id,
21 bos_token_id=tokenizer.bos_token_id,
22 eos_token_id=tokenizer.eos_token_id
23 )
24
25output = tokenizer.decode(output_ids.tolist()[0])
26print(output)
27"""西田幾多郎は、この「絶対矛盾的自己同一」を「世界の自己同一」と置きかえ、さらに西田哲学を出発点として「絶対無」を「世界の成立」に変え、世界と自己を一つの統一物とみなす哲学として展開する。この世界と自己は絶対矛盾的自己同一として同一の性質を有し、同じ働きをする。西田哲学においては、この世界と自己は矛盾しあうのではなく、同一の性質をもっている。この世界と自己は同一である。絶対"""<UNK> tokens.--add_dummy_prefix option was turned off so that a leading whitespace will not be prepended automatically.
print(tokenizer.tokenize("吾輩は猫である"))
# ['吾', '輩', 'は', '猫', 'である']
# instead of ['▁', '吾', '輩', 'は', '猫', 'である'] as in rinna/japanese-gpt-1b--remove_extra_whitespaces option was turned off so that leading, trailing, and duplicate whitespaces are reserved.
print(tokenizer.tokenize(" 吾輩は 猫である "))
# ['▁', '▁', '吾', '輩', 'は', '▁', '▁', '猫', 'である', '▁', '▁', '▁']
# instead of ['▁', '吾', '輩', 'は', '▁猫', 'である'] as in rinna/japanese-gpt-1buse_fast=False to make the above features function correctly.
good_tokenizer = AutoTokenizer.from_pretrained("rinna/japanese-gpt-neox-3.6b", use_fast=False)
bad_tokenizer = AutoTokenizer.from_pretrained("rinna/japanese-gpt-neox-3.6b")
print(good_tokenizer.decode(good_tokenizer.encode("გამარჯობა 吾輩は 猫である ")))
# 'გამარჯობა 吾輩は 猫である </s>'
print(bad_tokenizer.decode(bad_tokenizer.encode("გამარჯობა 吾輩は 猫である ")))
# 'გამარ[UNK]ობა 吾輩は 猫である </s>'1@misc{rinna-japanese-gpt-neox-3.6b,
2 title = {rinna/japanese-gpt-neox-3.6b},
3 author = {Zhao, Tianyu and Sawada, Kei},
4 url = {https://huggingface.co/rinna/japanese-gpt-neox-3.6b}
5}
6
7@inproceedings{sawada2024release,
8 title = {Release of Pre-Trained Models for the {J}apanese Language},
9 author = {Sawada, Kei and Zhao, Tianyu and Shing, Makoto and Mitsui, Kentaro and Kaga, Akio and Hono, Yukiya and Wakatsuki, Toshiaki and Mitsuda, Koh},
10 booktitle = {Proceedings of the 2024 Joint International Conference on Computational Linguistics, Language Resources and Evaluation (LREC-COLING 2024)},
11 month = {5},
12 year = {2024},
13 pages = {13898--13905},
14 url = {https://aclanthology.org/2024.lrec-main.1213},
15 note = {\url{https://arxiv.org/abs/2404.01657}}
16}