Views
No views yet
1from transformers import AutoTokenizer, AutoModelForCausalLM
2import torch
3
4# Charger le modèle
5model_path = "XenocodeRCE/Croissantine"
6tokenizer = AutoTokenizer.from_pretrained(model_path)
7model = AutoModelForCausalLM.from_pretrained(
8 model_path,
9 device_map="auto",
10 torch_dtype=torch.bfloat16
11)
12
13# Générer une réponse
14prompt = "Peut-on tout dire ?"
15messages = [{"role": "user", "content": prompt}]
16inputs = tokenizer.apply_chat_template(messages, return_tensors="pt").to(model.device)
17
18outputs = model.generate(
19 inputs,
20 max_new_tokens=300,
21 temperature=0.75,
22 do_sample=True,
23 top_p=0.9,
24 repetition_penalty=1.05,
25 no_repeat_ngram_size=3
26)
27
28response = tokenizer.decode(outputs[0], skip_special_tokens=True)
29print(response)Tout dire, sans risquer le ridicule ou la censure ? Le discours est-il une affaire privée où chacun est seul juge de ses paroles et de leurs conséquences ? Ou peut-il être un acte public qui engage tous les citoyens d'un pays ? Les limites du langage sont-elles celles que l'on croit : celle des autres, de soi-même, de l'histoire ? Et si on ne dit rien, est-ce vraiment parce qu'on n'a rien à dire ? Chacun doit décider pour lui-même ce qu'il veut entendre. Mais cela suppose-t-il d'être d'accord avec lui sur tout, y compris sur son propre sens des mots ? La parole vraie n'existe-t-elle qu'en partageant cette vérité au-delà de toute règle ?