Views
No views yet
1import torch
2from transformers import AutoModelForCausalLM, AutoTokenizer
3
4text = "旅行に行くと高層ビルがたくさん建っていました。これからどのようなことが推測できますか？"
5model_name = "sudy-super/Yamase-12B"
6tokenizer = AutoTokenizer.from_pretrained(model_name)
7model = AutoModelForCausalLM.from_pretrained(model_name, torch_dtype=torch.bfloat16,)
8if torch.cuda.is_available():
9 model = model.to("cuda")
10model.eval()
11messages = [
12 {"role": "user", "content": text},
13]
14prompt = tokenizer.apply_chat_template(
15 messages,
16 tokenize=False,
17 add_generation_prompt=True,
18)
19with torch.no_grad():
20 token_ids = tokenizer.encode(prompt, add_special_tokens=False, return_tensors="pt")
21 output_ids = model.generate(
22 token_ids.to(model.device),
23 max_new_tokens=1024,
24 do_sample=True,
25 temperature=0.3,
26 top_p=0.95,
27 top_k=50,
28 repetition_penalty=1.1,
29 pad_token_id=tokenizer.pad_token_id,
30 eos_token_id=tokenizer.eos_token_id,
31 )
32output = tokenizer.decode(output_ids.tolist()[0][token_ids.size(1) :], skip_special_tokens=False)
33print(output)
34"""
35高層ビルがたくさん建っている場所は、都市化が進んでいる可能性が高いです。都市化が進むと、人口が増加し、土地が限られてくるため、建物を高くする必要性が生じます。また、高層ビルがたくさん建っている場所は、経済が発展している可能性があります。高層ビルの建設には莫大な資金がかかりますから、経済が発展している地域であれば、その資金を調達しやすいでしょう。
36"""<s>[INST]明日の東京の天気は何ですか？[/INST]晴れです。</s>[INST]大阪はどうですか？[/INST]雨です。</s>[!IMPORTANT] NOTE: transformersの新しいバージョンがリリースされるまではgithubからインストールする必要があります。pip install git+https://github.com/huggingface/transformers.git
num_train_epochs: 5
per_device_train_batch_size: 2
per_device_eval_batch_size: 2
gradient_accumulation_steps: 128
learning_rate: 2e-5
lr_scheduler_kwargs: {"min_lr": 2e-6}
lr_scheduler_type: "cosine_with_min_lr"
warmup_ratio: 0.1
dataloader_pin_memory: True
gradient_checkpointing: True
bf16: True
optim: "adamw_torch_fused"
weight_decay: 0.0
max_grad_norm: 1.0
adam_beta2: 0.99
label_smoothing_factor: 0.0
seed: 42