Views
No views yet
1
2from transformers import (T5ForConditionalGeneration, AutoTokenizer, pipeline)
3import torch
4model = T5ForConditionalGeneration.from_pretrained('PardisSzah/BasePersianEase')
5tokenizer = AutoTokenizer.from_pretrained('PardisSzah/BasePersianEase')
6
7
8pipe = pipeline(task='text2text-generation', model=model, tokenizer=tokenizer)
9def test_model(text):
10 device = torch.device('cuda' if torch.cuda.is_available() else 'cpu')
11 model.to(device)
12
13 inputs = tokenizer.encode("formal: " + text, return_tensors='pt', max_length=128, truncation=True, padding='max_length')
14 inputs = inputs.to(device)
15
16 outputs = model.generate(inputs, max_length=128, num_beams=4, temperature=0.7)
17 print("Output:", tokenizer.decode(outputs[0], skip_special_tokens=True))
18
19text = " من فقط میخواستم بگویم که چقدر قدردان همه چیزهایی هستم که برای من انجام داده ای. دوستی تو برای من یک هدیه بزرگ است و من همیشه از داشتن یک دوست مانند تو خوشحال هستم."
20print("Original:", text)
21test_model(text)
22
23# output: من فقط میخوام بگم که چقدر قدردان همه کاریم که برای من انجام دادی. دوستی تو برای من یه هدیه بزرگه و من همیشه از داشتن یه دوست مثل تو خوشحالم.
24
25