learning_rate: 2e-05
train_batch_size: 16
eval_batch_size: 16
seed: 42
optimizer: Use OptimizerNames.ADAMW_TORCH with betas=(0.9,0.999) and epsilon=1e-08 and optimizer_args=No additional optimizer arguments
lr_scheduler_type: linear
num_epochs: 4
mixed_precision_training: Native AMP

Training results

Training Loss	Epoch	Step	Validation Loss	Rouge1	Rouge2	Rougel	Rougelsum	Gen Len
4.6804	0.0323	2	4.3609	0.1436	0.0513	0.1203	0.12	20.0
4.3384	0.0645	4	4.1650	0.144	0.0515	0.1205	0.1202	20.0
4.3955	0.0968	6	4.0229	0.1426	0.0508	0.1199	0.1198	20.0
4.1932	0.1290	8	3.8924	0.1428	0.0513	0.1201	0.1198	20.0
4.1175	0.1613	10	3.6766	0.1428	0.0516	0.1203	0.12	20.0
4.1439	0.1935	12	3.5583	0.1429	0.0508	0.1207	0.1203	20.0
3.667	0.2258	14	3.4667	0.1417	0.0502	0.1198	0.1195	20.0
3.8357	0.2581	16	3.3687	0.1406	0.0497	0.1191	0.1189	20.0
3.7606	0.2903	18	3.3003	0.1393	0.0496	0.1188	0.1185	20.0
3.5383	0.3226	20	3.2444	0.139	0.0493	0.1186	0.1183	20.0
3.4522	0.3548	22	3.1803	0.1384	0.0482	0.1183	0.1179	20.0
3.6914	0.3871	24	3.1349	0.1366	0.0466	0.1172	0.1169	20.0
3.4737	0.4194	26	3.0983	0.1357	0.0464	0.1163	0.1162	20.0
3.3596	0.4516	28	3.0641	0.1367	0.0469	0.1172	0.117	20.0
3.5772	0.4839	30	3.0324	0.1357	0.0463	0.1164	0.1163	20.0
3.3713	0.5161	32	3.0044	0.1365	0.048	0.1175	0.1171	20.0
3.2346	0.5484	34	2.9762	0.1348	0.045	0.1151	0.115	20.0
3.3949	0.5806	36	2.9478	0.1344	0.0442	0.1145	0.1144	20.0
3.1716	0.6129	38	2.9229	0.1327	0.0423	0.1137	0.1135	20.0
3.2934	0.6452	40	2.8996	0.1319	0.042	0.1131	0.113	20.0
3.0654	0.6774	42	2.8776	0.1305	0.0408	0.1117	0.1116	20.0
3.2518	0.7097	44	2.8577	0.1304	0.0406	0.1114	0.1114	20.0
3.0717	0.7419	46	2.8395	0.1311	0.0417	0.1119	0.1119	20.0
3.098	0.7742	48	2.8229	0.1298	0.0402	0.1107	0.1105	20.0
3.1819	0.8065	50	2.8074	0.1303	0.0402	0.1107	0.1105	20.0
3.1413	0.8387	52	2.7926	0.128	0.0395	0.1088	0.1084	20.0
3.2204	0.8710	54	2.7787	0.1276	0.039	0.1084	0.1081	20.0
3.0931	0.9032	56	2.7652	0.127	0.0391	0.1079	0.1076	20.0
3.0523	0.9355	58	2.7523	0.1279	0.0406	0.1087	0.1086	20.0
3.1677	0.9677	60	2.7400	0.1278	0.0414	0.1083	0.1083	20.0
3.034	1.0	62	2.7281	0.1282	0.0427	0.1086	0.1085	20.0
2.9583	1.0323	64	2.7167	0.1279	0.0422	0.108	0.1079	20.0
2.9868	1.0645	66	2.7060	0.1281	0.043	0.1085	0.1086	20.0
3.0033	1.0968	68	2.6959	0.1281	0.0432	0.1086	0.1086	20.0
3.0707	1.1290	70	2.6863	0.1302	0.046	0.11	0.1101	20.0
2.8746	1.1613	72	2.6769	0.1308	0.046	0.1104	0.1105	20.0
3.0194	1.1935	74	2.6680	0.1317	0.0469	0.1115	0.1117	20.0
3.1308	1.2258	76	2.6601	0.1339	0.0483	0.113	0.1131	20.0
2.8552	1.2581	78	2.6524	0.1336	0.0481	0.1128	0.1129	20.0
3.021	1.2903	80	2.6447	0.1346	0.0484	0.1138	0.1139	20.0
2.9699	1.3226	82	2.6372	0.1337	0.0482	0.1131	0.1132	20.0
2.9494	1.3548	84	2.6301	0.1337	0.0479	0.1132	0.1131	20.0
3.0067	1.3871	86	2.6230	0.135	0.0489	0.114	0.114	20.0
2.8436	1.4194	88	2.6163	0.1347	0.0484	0.1136	0.1135	20.0
2.8577	1.4516	90	2.6101	0.1357	0.0488	0.1142	0.1141	20.0
2.8696	1.4839	92	2.6044	0.1358	0.0487	0.1143	0.114	20.0
2.9308	1.5161	94	2.5988	0.1365	0.0491	0.1149	0.1147	20.0
2.7689	1.5484	96	2.5935	0.1376	0.0499	0.1156	0.1154	20.0
2.6931	1.5806	98	2.5886	0.1381	0.0508	0.1164	0.1162	20.0
2.8952	1.6129	100	2.5838	0.1379	0.0505	0.1162	0.116	20.0
2.9853	1.6452	102	2.5793	0.1385	0.0504	0.1164	0.1162	20.0
2.9681	1.6774	104	2.5750	0.1389	0.0509	0.1163	0.1162	20.0
2.8354	1.7097	106	2.5709	0.1393	0.0515	0.1169	0.1168	20.0
2.8866	1.7419	108	2.5670	0.1392	0.0516	0.1169	0.1168	20.0
2.8321	1.7742	110	2.5632	0.139	0.0514	0.1169	0.1168	20.0
2.8967	1.8065	112	2.5596	0.1393	0.0517	0.1173	0.117	20.0
2.9371	1.8387	114	2.5559	0.1415	0.0539	0.119	0.1187	20.0
2.8778	1.8710	116	2.5524	0.1408	0.0536	0.1187	0.1184	20.0
2.8746	1.9032	118	2.5489	0.1417	0.0544	0.1193	0.1189	20.0
2.8187	1.9355	120	2.5455	0.142	0.0548	0.1194	0.1191	20.0
2.9383	1.9677	122	2.5423	0.142	0.0548	0.1194	0.1191	20.0
3.0316	2.0	124	2.5390	0.1424	0.0548	0.1195	0.1191	20.0
2.8228	2.0323	126	2.5358	0.1435	0.0556	0.1204	0.1201	20.0
2.7184	2.0645	128	2.5327	0.1439	0.0562	0.1208	0.1206	20.0
2.8058	2.0968	130	2.5297	0.1448	0.0572	0.1216	0.1212	20.0
2.7238	2.1290	132	2.5270	0.1462	0.0582	0.1228	0.1226	20.0
2.8447	2.1613	134	2.5244	0.1466	0.0587	0.1234	0.1231	20.0
2.9262	2.1935	136	2.5219	0.1469	0.0586	0.1233	0.1231	20.0
2.86	2.2258	138	2.5195	0.1472	0.0587	0.1238	0.1237	20.0
2.9088	2.2581	140	2.5171	0.147	0.0585	0.1233	0.1234	20.0
2.9653	2.2903	142	2.5147	0.1472	0.0585	0.1234	0.1234	20.0
2.9105	2.3226	144	2.5123	0.1472	0.0587	0.1233	0.1233	20.0
2.8232	2.3548	146	2.5100	0.1463	0.058	0.1233	0.1233	20.0
2.9148	2.3871	148	2.5078	0.1476	0.0584	0.1235	0.1236	20.0
2.8341	2.4194	150	2.5056	0.1483	0.0592	0.1245	0.1244	20.0
2.8049	2.4516	152	2.5037	0.1486	0.0593	0.1248	0.1246	20.0
2.8037	2.4839	154	2.5019	0.1484	0.0593	0.1248	0.1246	20.0
3.052	2.5161	156	2.5002	0.148	0.0587	0.1242	0.1243	20.0
2.7921	2.5484	158	2.4986	0.148	0.0587	0.1242	0.1242	20.0
2.6904	2.5806	160	2.4970	0.1482	0.0588	0.1243	0.1243	20.0
2.8221	2.6129	162	2.4954	0.1485	0.0591	0.1243	0.1244	20.0
2.7292	2.6452	164	2.4940	0.1479	0.0587	0.124	0.1242	20.0
2.6896	2.6774	166	2.4925	0.148	0.0589	0.1244	0.1245	20.0
2.7265	2.7097	168	2.4911	0.1481	0.0589	0.1246	0.1245	20.0
2.7964	2.7419	170	2.4898	0.1483	0.059	0.1246	0.1246	20.0
2.5321	2.7742	172	2.4885	0.1486	0.059	0.1249	0.1249	20.0
2.8576	2.8065	174	2.4872	0.149	0.0595	0.1254	0.1255	20.0
2.7881	2.8387	176	2.4859	0.1498	0.0597	0.1258	0.1258	20.0
2.7839	2.8710	178	2.4846	0.1502	0.0599	0.1261	0.1261	20.0
2.706	2.9032	180	2.4835	0.1514	0.0613	0.1271	0.127	20.0
2.9112	2.9355	182	2.4825	0.1514	0.0617	0.127	0.1269	20.0
2.4941	2.9677	184	2.4816	0.1506	0.0606	0.1266	0.1264	20.0
2.8013	3.0	186	2.4807	0.1512	0.0611	0.1267	0.1265	20.0
2.5496	3.0323	188	2.4798	0.1511	0.0608	0.1265	0.1263	20.0
2.8009	3.0645	190	2.4789	0.1509	0.0607	0.1264	0.1261	20.0
2.8331	3.0968	192	2.4780	0.1507	0.0605	0.1263	0.1261	20.0
2.8614	3.1290	194	2.4771	0.1507	0.0604	0.1263	0.1261	20.0
2.835	3.1613	196	2.4763	0.1508	0.0606	0.1267	0.1263	20.0
2.4826	3.1935	198	2.4756	0.151	0.0606	0.1269	0.1265	20.0
2.7789	3.2258	200	2.4749	0.1516	0.0611	0.1273	0.127	20.0
2.9013	3.2581	202	2.4742	0.1513	0.0609	0.1273	0.127	20.0
2.8757	3.2903	204	2.4735	0.1512	0.0607	0.1272	0.1269	20.0
2.8339	3.3226	206	2.4728	0.1512	0.0607	0.1272	0.1269	20.0
2.7016	3.3548	208	2.4721	0.1512	0.0607	0.1272	0.1269	20.0
2.6481	3.3871	210	2.4713	0.1508	0.0601	0.1265	0.1264	20.0
2.6514	3.4194	212	2.4707	0.1512	0.0604	0.1272	0.1269	20.0
2.7701	3.4516	214	2.4701	0.152	0.0613	0.1281	0.1278	20.0
2.7409	3.4839	216	2.4696	0.152	0.0613	0.1281	0.1278	20.0
2.624	3.5161	218	2.4691	0.1519	0.0613	0.128	0.1277	20.0
2.8337	3.5484	220	2.4687	0.1519	0.0613	0.1279	0.1276	20.0
2.7364	3.5806	222	2.4682	0.1516	0.0612	0.1278	0.1275	20.0
2.683	3.6129	224	2.4679	0.1519	0.0613	0.1279	0.1276	20.0
2.687	3.6452	226	2.4676	0.1519	0.0613	0.1279	0.1276	20.0
2.7624	3.6774	228	2.4674	0.1505	0.0596	0.1265	0.1264	20.0
2.8789	3.7097	230	2.4671	0.1516	0.0613	0.1279	0.1275	20.0
2.7322	3.7419	232	2.4669	0.1506	0.0597	0.1266	0.1265	20.0
2.653	3.7742	234	2.4666	0.1511	0.0603	0.1272	0.1271	20.0
2.7179	3.8065	236	2.4664	0.1503	0.0593	0.1261	0.1259	20.0
2.823	3.8387	238	2.4662	0.1508	0.06	0.1268	0.1266	20.0
2.9462	3.8710	240	2.4661	0.1506	0.0598	0.1265	0.1264	20.0
2.7698	3.9032	242	2.4660	0.1514	0.0605	0.1272	0.127	20.0
2.677	3.9355	244	2.4660	0.1514	0.0605	0.1272	0.1269	20.0
2.7531	3.9677	246	2.4659	0.1512	0.0604	0.1272	0.1269	20.0
3.0758	4.0	248	2.4659	0.151	0.06	0.1268	0.1266	20.0

Framework versions

Transformers 4.55.0
Pytorch 2.6.0+cu124
Datasets 4.0.0
Tokenizers 0.21.4

Indeajudicil/my_awesome_billsum_model

my_awesome_billsum_model

Model description

Intended uses & limitations

Training and evaluation data

Training procedure

Training hyperparameters

Training results

Framework versions

Indeajudicil/
my_awesome_billsum_model