Views
No views yet
1from transformers import pipeline, AutoTokenizer, AutoModelForCausalLM
2import torch
3
4# Загрузка модели
5model_name = "zhuu4/GPT_aristotle"
6tokenizer = AutoTokenizer.from_pretrained(model_name)
7model = AutoModelForCausalLM.from_pretrained(model_name)
8
9# Создание пайплайна для генерации текста
10generator = pipeline(
11 "text-generation",
12 model=model,
13 tokenizer=tokenizer,
14 device=0 if torch.cuda.is_available() else -1
15)
16
17# Генерация текста
18prompt = "Сегодня мы тестируем новый смартфон и"
19result = generator(
20 prompt,
21 max_length=150,
22 num_return_sequences=1,
23 temperature=0.7,
24 do_sample=True,
25 pad_token_id=tokenizer.eos_token_id
26)
27
28print(result[0]['generated_text'])