Views
No views yet

1!pip install -qU transformers
2from transformers import AutoTokenizer, AutoModelForCausalLM, pipeline
3
4model = "recogna-nlp/phibode-3-mini-4k-ultraalpaca"
5tokenizer = AutoTokenizer.from_pretrained(model)
6
7# Example prompt
8messages = [
9 {"role": "system", "content": "Você é assistente de IA chamado PhiBode. O PhiBode é um modelo de língua conversacional projetado para ser prestativo, honesto e inofensivo."},
10 {"role": "user", "content": "<Insira seu prompt aqui>"},
11]
12
13# Generate a response
14model = AutoModelForCausalLM.from_pretrained(model, trust_remote_code=True)
15pipeline = pipeline("text-generation", model=model, tokenizer=tokenizer)
16generation_args = {
17 "max_new_tokens": 500,
18 "return_full_text": False,
19 "temperature": 0.0,
20 "do_sample": False,
21}
22outputs = pipeline(messages, **generation_args)
23print(outputs[0]["generated_text"])