Modelo DistilBETO ajustado finamente (fine-tuned) para la clasificación del nivel de riesgo institucional en comentarios cualitativos de heteroevaluación docente en español, en el contexto de la Universidad Francisco de Paula Santander (UFPS), Colombia.
El modelo clasifica comentarios estudiantiles anónimos en tres niveles:
Etiqueta
Descripción
BAJO
Comentario sin señales de riesgo institucional
MEDIO
Comentario con señales de atención moderada
ALTO
Comentario con señales de riesgo que requieren atención institucional prioritaria
Descripción del modelo
Este modelo es un fine-tuning de DistilBETO — la versión destilada y ligera de BETO desarrollada por el DCC UChile, basada en DistilBERT — adaptado para clasificación multiclase de texto educativo informal en español latinoamericano.
El entrenamiento forma parte de un proyecto de investigación orientado a automatizar el análisis de los resultados del sistema de evaluación docente (SET) de la UFPS, reemplazando la revisión manual de cientos de comentarios estudiantiles por semestre con un componente de inteligencia artificial capaz de detectar automáticamente situaciones que requieren atención del director de departamento.
Uso del modelo
Instalación
pip install transformers torch
Inferencia directa
python
1from transformers import pipeline
23clasificador = pipeline(4"text-classification",5 model="DevOB/modelo-distilbeto-nivelDeRiesgo5",6 tokenizer="DevOB/modelo-distilbeto-nivelDeRiesgo5",7)89comentario ="El profesor nunca llegaba a tiempo y no respondía las preguntas en clase."10resultado = clasificador(comentario)11print(resultado)12# [{'label': 'MEDIO', 'score': 0.80}]
Inferencia con Transformers completo
python
1import torch
2from transformers import AutoTokenizer, AutoModelForSequenceClassification
34model_id ="DevOB/modelo-distilbeto-nivelDeRiesgo5"56tokenizer = AutoTokenizer.from_pretrained(model_id)7model = AutoModelForSequenceClassification.from_pretrained(model_id)8model.eval()910comentario ="Este profesor tiene actitudes irrespetuosas hacia los estudiantes."1112inputs = tokenizer(13 comentario,14 return_tensors="pt",15 truncation=True,16 max_length=128,17 padding="max_length"18)1920with torch.no_grad():21 outputs = model(**inputs)2223probs = torch.softmax(outputs.logits, dim=-1)24id2label = model.config.id2label
25prediccion = id2label[probs.argmax().item()]26confianza = probs.max().item()2728print(f"Nivel de riesgo: {prediccion} (confianza: {confianza:.2%})")
Datos de entrenamiento
El modelo fue entrenado sobre un corpus de 9,457 comentarios cualitativos en español originados en evaluaciones docentes estudiantiles (heteroevaluación), con la siguiente distribución de clases:
Clase
Muestras
Porcentaje
BAJO
4,603
48.7%
MEDIO
3,071
32.5%
ALTO
1,783
18.9%
El corpus fue construido a partir de comentarios reales anonimizados de la UFPS, complementados con datos traducidos al español desde el inglés mediante Gemini Pro para enriquecer la representación de las clases de menor frecuencia. Los textos fueron limpiados y normalizados manteniendo las características del lenguaje coloquial estudiantil (abreviaciones, errores ortográficos típicos) para preservar la distribución lingüística real del entorno de producción.
Partición del dataset:
Entrenamiento: 80% (7,565 muestras)
Prueba: 20% (1,892 muestras)
Semilla aleatoria: 42
Configuración de entrenamiento
Parámetro
Valor
Modelo base
dccuchile/distilbert-base-spanish-uncased
Épocas
5
Batch size (entrenamiento)
16
Batch size (evaluación)
32
Longitud máxima de tokens
128
Warmup steps
100
Weight decay
0.01
Semilla
42
Hardware
NVIDIA GeForce RTX 4060
CUDA
12.1
Framework
PyTorch 2.6.0 + Transformers 4.47.0
Resultados de evaluación
Evaluación sobre el conjunto de prueba (1,892 muestras, época 5):
Métricas globales
Métrica
Valor
F1-Macro
79.30%
Accuracy
82.03%
Precision (macro)
79.22%
Recall (macro)
79.42%
Eval Loss
0.7958
Métricas por clase
Clase
Precision
Recall
F1-Score
Soporte
BAJO
90%
92%
91%
921
MEDIO
75%
71%
73%
614
ALTO
73%
75%
74%
357
Matriz de confusión
Pred. BAJO
Pred. MEDIO
Pred. ALTO
Real BAJO
846 (91.9%)
65 (7.1%)
10 (1.1%)
Real MEDIO
85 (13.8%)
438 (71.3%)
91 (14.8%)
Real ALTO
6 (1.7%)
83 (23.2%)
268 (75.1%)
Limitaciones y consideraciones
Dominio específico: El modelo fue entrenado exclusivamente sobre comentarios de heteroevaluación docente universitaria en Colombia. Su rendimiento en otros dominios (reseñas, redes sociales, soporte técnico, etc.) no ha sido evaluado y puede ser significativamente inferior.
Idioma: Optimizado para español latinoamericano informal. No se garantiza rendimiento equivalente en español peninsular u otras variedades.
Desbalance de clases: La clase ALTO representa solo el 18.9% del corpus. Aunque DistilBETO logra el mayor Recall ALTO del proyecto (75%), aún existen 89 falsos negativos críticos. Aplicaciones con máxima sensibilidad deben complementar el modelo con revisión humana.
Longitud de texto: El modelo fue entrenado con un máximo de 128 tokens. Comentarios significativamente más largos serán truncados, con posible pérdida de información al final del texto.
Privacidad: Este modelo fue entrenado sobre datos anonimizados. No debe utilizarse para identificar personas ni para procesar datos personales sin las salvaguardas legales correspondientes.
Uso previsto
✅ Casos de uso apropiados:
Apoyo a directores de departamento en la revisión de comentarios de heteroevaluación docente
Priorización automática de comentarios para revisión humana
Generación de alertas tempranas en sistemas de gestión académica
❌ Casos de uso no apropiados:
Toma de decisiones definitivas sobre docentes sin revisión humana
Procesamiento de datos fuera del ámbito de la evaluación docente universitaria
Aplicaciones que requieran certeza absoluta en la detección de riesgo