Views
No views yet
| Label | Meaning |
|---|---|
| 0 | Chính xác — Khẳng định đúng theo ngữ cảnh |
| 1 | Sai sự thật — Có mâu thuẫn hoặc sai lệch |
| 2 | Không đủ thông tin — Thiếu dữ kiện để kết luận |
1from unsloth import FastLanguageModel
2from transformers import TextStreamer
3
4model, tokenizer = FastLanguageModel.from_pretrained(
5 model_name = "baduyne/Qwen3_1.7B_FactChecking_it",
6 dtype = None, # Auto-detect precision
7 max_seq_length = 2048,
8 load_in_4bit = True, # Load in 4-bit quantization
9 full_finetuning = False, # LoRA-based fine-tuning
10)
11
12messages = [
13 {
14 "role": "system",
15 "content": (
16 "reasoning language: Vietnamese\n\n"
17 "Bạn là chuyên gia kiểm chứng thông tin. "
18 "Dựa vào ngữ cảnh, hãy xác định xem khẳng định là đúng, sai, hay thiếu dữ kiện."
19 ),
20 },
21 {
22 "role": "user",
23 "content": (
24 "Khẳng định: Trái Đất quay quanh Mặt Trời.\n"
25 "Ngữ cảnh: Các nghiên cứu khoa học và thiên văn đều xác nhận điều này."
26 ),
27 },
28]
29
30inputs = tokenizer.apply_chat_template(
31 messages,
32 add_generation_prompt=True,
33 return_tensors="pt",
34 reasoning_effort="high",
35).to("cuda")
36
37streamer = TextStreamer(tokenizer)
38_ = model.generate(**inputs, max_new_tokens=512, streamer=streamer)