Fine-tuning de
bert-base-multilingual-cased para clasificación
multiclase de toxicidad en redes sociales en español salvadoreño.
Si el texto no está preprocesado, hay que aplicar el mismo normalizador del repositorio de la tesina.
F1 por clase: No Tóxico 0.814 · Lenguaje Ofensivo 0.795 · Discurso de Odio 0.746 · Amenazas/Violencia 0.756.
1from transformers import AutoTokenizer, AutoModelForSequenceClassification
2import torch
3
4repo_id = "caeher/mbert-sv"
5tokenizer = AutoTokenizer.from_pretrained(repo_id)
6model = AutoModelForSequenceClassification.from_pretrained(repo_id)
7
8text = "ejemplo de comentario"
9inputs = tokenizer(text, return_tensors="pt", truncation=True, max_length=128)
10with torch.no_grad():
11 logits = model(**inputs).logits
12pred = int(logits.argmax(dim=-1))
13print(model.config.id2label[pred])
Modelo de tesina, no un moderador autónomo. El corpus es de El Salvador; el desempeño puede caer en otros dialectos o en jerga adversarial. FPR sobre jerga no tóxica y cortes por plataforma están documentados en el informe del proyecto.
