NewJetsada/ScholarLens

Intended Use & Limitations

• ใช้สำหรับ ให้ feedback เชิงโครงสร้างใน scholarship essays
• ไม่เหมาะกับงานด้าน กฎหมาย, การแพทย์, หรือคำแนะนำที่มีผลกระทบสูง
• ใช้เพื่อ ช่วยพัฒนา/ฝึกฝนการเขียน ไม่ควรถูกมองว่าเป็น feedback ที่สามารถเชื่อได้ 100%

Training Details

• Base model: Qwen/Qwen1.5-1.8B-Chat
• Fine-tuning: QLoRA (4-bit quantization)
• LoRA config:
  • r = 4
  • alpha = 16
  • dropout = 0.05
  • target modules = q_proj, v_proj, k_proj, o_proj
• Training setup:
  • epochs = 2
  • batch size = 1 (accumulation = 24)
  • max length = 256
  • optimizer = adamw_torch
  • learning rate = 2e-4, cosine schedule, warmup ratio = 0.03
• Hardware: Google Colab T4 (16GB VRAM)
• Libraries: transformers, trl==0.23, peft, accelerate, bitsandbytes

Dataset

• Records: 1000 examples
• Format: instruction → essay → structured feedback (JSON-like text)
• Source: synthetic + curated essay samples
• Cleaning: normalized spacing, JSON validity ensured
• Split: train-only (1000), eval = held-out manual testing

Evaluation

• Automatic checks:
  • JSON validity rate: ~100%
  • Length & structure matching
• Planned human eval:
  • ความถูกต้องของ feedback
  • ประโยชน์ต่อการปรับปรุง essay
  • ความชัดเจนและภาษาที่เหมาะสม

Safety & Bias

• โมเดลอาจสะท้อน bias จาก dataset ที่สร้างขึ้น (synthetic/curated)
• Feedback อาจ ให้ความสำคัญกับโครงสร้างมากกว่าเนื้อหาเชิงลึก
• ผู้ใช้งานควรใช้เป็น แนวทางเสริม ไม่ใช่ตัวตัดสินขั้นสุดท้าย

Example Usage

โหลด Adapter (PEFT)