training_args = TrainingArguments(
output_dir='ECO_DEBERTA_FINAL_2',
evaluation_strategy="epoch",
learning_rate=2e-5,
per_device_train_batch_size=8, # SE HA DISMINUIDO
per_device_eval_batch_size=8,
num_train_epochs=32,
logging_steps=10,
warmup_steps=500, # AÑADIDO NUEVO PARA EVITAR SOBREAJUSTE
weight_decay=0.01,
save_strategy="epoch",
load_best_model_at_end=True,
push_to_hub=True
)
Epoch Training Loss Validation Loss Precision Recall F1 Accuracy
1 0.093900 0.076157 0.374630 0.239330 0.292072 0.984204
2 0.039500 0.050798 0.443367 0.419773 0.431247 0.987192
3 0.029000 0.054175 0.430247 0.465694 0.447269 0.986865
4 0.020800 0.058064 0.434279 0.475689 0.454042 0.986503
5 0.013900 0.066190 0.432111 0.461642 0.446389 0.986291
6 0.011800 0.068260 0.423596 0.466505 0.444016 0.986058
7 0.006900 0.082326 0.491336 0.474878 0.482967 0.986873
8 0.005600 0.081520 0.474278 0.488115 0.481097 0.986696
9 0.005000 0.095415 0.483427 0.464884 0.473974 0.986564
10 0.003200 0.091024 0.494728 0.481632 0.488092 0.986781
11 0.002700 0.098620 0.487937 0.486224 0.487079 0.986614
12 0.003300 0.099430 0.506215 0.484063 0.494891 0.987067
13 0.003000 0.097501 0.501260 0.483522 0.492232 0.987396
14 0.002500 0.108394 0.488714 0.485413 0.487058 0.986754
15 0.001200 0.102654 0.500282 0.480011 0.489937 0.987268
16 0.001500 0.111731 0.492795 0.471097 0.481701 0.986791
17 0.001500 0.106645 0.489696 0.487844 0.488769 0.987075
18 0.000800 0.116606 0.505802 0.482712 0.493988 0.987054
19 0.001300 0.106939 0.499029 0.485683 0.492266 0.987264
20 0.000400 0.114751 0.499314 0.491356 0.495303 0.987153
21 0.000300 0.110884 0.505031 0.501621 0.503320 0.987493
22 0.000600 0.113667 0.496239 0.481091 0.488548 0.987299
23 0.000600 0.115101 0.491047 0.488925 0.489984 0.986993
24 0.000700 0.119646 0.503192 0.489735 0.496372 0.987133
25 0.000500 0.118476 0.501992 0.476499 0.488914 0.987225
26 0.000400 0.119586 0.498172 0.478390 0.488080 0.987161
27 0.000800 0.121837 0.497632 0.482442 0.489919 0.987077
28 0.000400 0.123653 0.509621 0.486494 0.497789 0.987312
29 0.000200 0.121601 0.509667 0.491356 0.500344 0.987285
30 0.000800 0.124409 0.511562 0.484063 0.497432 0.987285
31 0.000300 0.126458 0.504494 0.485143 0.494630 0.987122
32 0.000400 0.126997 0.508350 0.485143 0.496475 0.987155
image/png