Views
No views yet
1Model: Qwen 2.5 7B Instruct
2LoRA Rank: 64
3LoRA Alpha: 128
4Max Sequence Length: 256
5Batch Size: 1 (effective: 16 with gradient accumulation)
6Epochs: 15
7Learning Rate: 2e-4
8Optimizer: AdamW
9Precision: BF16
10Gradient Checkpointing: Enabled1import torch
2from transformers import AutoModelForCausalLM, AutoTokenizer
3from peft import PeftModel
4
5# Load base model
6base_model = AutoModelForCausalLM.from_pretrained(
7 "Qwen/Qwen2.5-7B-Instruct",
8 torch_dtype=torch.bfloat16,
9 device_map="auto"
10)
11
12# Load LoRA adapter
13model = PeftModel.from_pretrained(
14 base_model,
15 "YOUR_USERNAME/vietnamese-amr-baseline-7b"
16)
17model.eval()
18
19# Load tokenizer
20tokenizer = AutoTokenizer.from_pretrained("Qwen/Qwen2.5-7B-Instruct")
21
22# Prepare prompt
23sentence = "Chủ tịch nước đã phát biểu tại hội nghị."
24prompt = f"""Bạn là chuyên gia phân tích ngữ nghĩa tiếng Việt. Hãy chuyển đổi câu sau sang định dạng AMR (Abstract Meaning Representation).
25
26Quy tắc quan trọng:
27- Sử dụng khái niệm tiếng Việt có dấu gạch dưới (ví dụ: chủ_tịch, môi_trường)
28- Gán biến cho mỗi khái niệm (ví dụ: c / chủ_tịch)
29- Sử dụng quan hệ chuẩn AMR (:ARG0, :ARG1, :time, :location, etc.)
30- Giữ nguyên cấu trúc cây với dấu ngoặc đơn cân bằng
31- Đảm bảo tất cả biến được định nghĩa trước khi sử dụng
32
33Câu tiếng Việt: {sentence}
34
35AMR:
36"""
37
38# Generate
39inputs = tokenizer(prompt, return_tensors="pt").to(model.device)
40with torch.no_grad():
41 outputs = model.generate(
42 **inputs,
43 max_new_tokens=512,
44 temperature=0.1,
45 top_p=0.9,
46 do_sample=True
47 )
48
49# Decode
50result = tokenizer.decode(outputs[0], skip_special_tokens=True)
51amr = result.split("AMR:")[-1].strip()
52print(amr)adapter_config.json: LoRA configurationadapter_model.safetensors: LoRA weights (~200MB)README.md: This file1@misc{vietnamese-amr-baseline-7b,
2 title={Vietnamese AMR Baseline 7B},
3 author={VLSP 2024 Participant},
4 year={2025},
5 publisher={HuggingFace},
6 url={https://huggingface.co/YOUR_USERNAME/vietnamese-amr-baseline-7b}
7}