This model is a fine-tuned version of Qwen/Qwen2.5-1.5B-Instruct on the YuchenLi01/MATH_Qwen2.5-1.5BInstruct_DPO_MoreUniqueResponseNoGTv2 dataset. It achieves the following results on the evaluation set:

Loss: 0.1474

Model description

More information needed

Intended uses & limitations

More information needed

Training and evaluation data

More information needed

Training procedure

Training hyperparameters

The following hyperparameters were used during training:

learning_rate: 2e-05
train_batch_size: 4
eval_batch_size: 4
seed: 42
distributed_type: multi-GPU
num_devices: 8
total_train_batch_size: 32
total_eval_batch_size: 32
optimizer: Adam with betas=(0.9,0.999) and epsilon=1e-08
lr_scheduler_type: cosine
lr_scheduler_warmup_ratio: 0.1
num_epochs: 1.0

Training results

Training Loss	Epoch	Step	Validation Loss
0.2705	0.0060	20	0.2802
0.0985	0.0120	40	0.0915
0.0857	0.0180	60	0.0867
0.0808	0.0240	80	0.0867
0.0837	0.0300	100	0.0888
0.0914	0.0360	120	0.0928
0.0846	0.0420	140	0.0974
0.0888	0.0480	160	0.1011
0.0998	0.0540	180	0.1053
0.0881	0.0600	200	0.1105
0.1155	0.0660	220	0.1132
0.1116	0.0720	240	0.1174
0.0903	0.0780	260	0.1224
0.1182	0.0840	280	0.1266
0.1252	0.0900	300	0.1308
0.1262	0.0960	320	0.1362
0.1047	0.1019	340	0.1393
0.1094	0.1079	360	0.1422
0.1338	0.1139	380	0.1443
0.1262	0.1199	400	0.1449
0.1459	0.1259	420	0.1494
0.1096	0.1319	440	0.1477
0.1129	0.1379	460	0.1489
0.1094	0.1439	480	0.1527
0.112	0.1499	500	0.1517
0.1327	0.1559	520	0.1517
0.1305	0.1619	540	0.1527
0.1246	0.1679	560	0.1530
0.1242	0.1739	580	0.1541
0.1094	0.1799	600	0.1541
0.1029	0.1859	620	0.1553
0.1173	0.1919	640	0.1558
0.0961	0.1979	660	0.1559
0.1032	0.2039	680	0.1548
0.121	0.2099	700	0.1585
0.1131	0.2159	720	0.1581
0.1119	0.2219	740	0.1573
0.1338	0.2279	760	0.1571
0.1145	0.2339	780	0.1614
0.1226	0.2399	800	0.1585
0.1115	0.2459	820	0.1602
0.1105	0.2519	840	0.1592
0.1286	0.2579	860	0.1610
0.1097	0.2639	880	0.1623
0.0997	0.2699	900	0.1609
0.0891	0.2759	920	0.1600
0.1143	0.2819	940	0.1625
0.1279	0.2879	960	0.1623
0.1085	0.2939	980	0.1609
0.0944	0.2999	1000	0.1617
0.1101	0.3058	1020	0.1621
0.1147	0.3118	1040	0.1622
0.1012	0.3178	1060	0.1633
0.122	0.3238	1080	0.1609
0.1127	0.3298	1100	0.1631
0.1049	0.3358	1120	0.1621
0.1066	0.3418	1140	0.1624
0.111	0.3478	1160	0.1623
0.0964	0.3538	1180	0.1626
0.1055	0.3598	1200	0.1621
0.0998	0.3658	1220	0.1637
0.1167	0.3718	1240	0.1633
0.0984	0.3778	1260	0.1648
0.1077	0.3838	1280	0.1663
0.1016	0.3898	1300	0.1631
0.1039	0.3958	1320	0.1633
0.1052	0.4018	1340	0.1631
0.1009	0.4078	1360	0.1615
0.1082	0.4138	1380	0.1634
0.0918	0.4198	1400	0.1621
0.1134	0.4258	1420	0.1613
0.1115	0.4318	1440	0.1630
0.1082	0.4378	1460	0.1654
0.0887	0.4438	1480	0.1640
0.0944	0.4498	1500	0.1629
0.1082	0.4558	1520	0.1625
0.0977	0.4618	1540	0.1626
0.1026	0.4678	1560	0.1626
0.0911	0.4738	1580	0.1639
0.1062	0.4798	1600	0.1618
0.1128	0.4858	1620	0.1624
0.1028	0.4918	1640	0.1599
0.0989	0.4978	1660	0.1607
0.0979	0.5037	1680	0.1587
0.0994	0.5097	1700	0.1590
0.0846	0.5157	1720	0.1610
0.0851	0.5217	1740	0.1607
0.0941	0.5277	1760	0.1607
0.0834	0.5337	1780	0.1599
0.097	0.5397	1800	0.1580
0.0815	0.5457	1820	0.1593
0.0954	0.5517	1840	0.1591
0.0883	0.5577	1860	0.1597
0.0908	0.5637	1880	0.1583
0.0857	0.5697	1900	0.1584
0.1115	0.5757	1920	0.1570
0.0837	0.5817	1940	0.1569
0.0954	0.5877	1960	0.1570
0.1073	0.5937	1980	0.1570
0.0949	0.5997	2000	0.1568
0.1078	0.6057	2020	0.1577
0.0998	0.6117	2040	0.1567
0.0888	0.6177	2060	0.1555
0.0937	0.6237	2080	0.1554
0.0849	0.6297	2100	0.1552
0.1011	0.6357	2120	0.1559
0.1053	0.6417	2140	0.1560
0.0839	0.6477	2160	0.1565
0.1143	0.6537	2180	0.1565
0.0884	0.6597	2200	0.1552
0.0788	0.6657	2220	0.1545
0.0842	0.6717	2240	0.1545
0.0896	0.6777	2260	0.1537
0.0898	0.6837	2280	0.1538
0.0867	0.6897	2300	0.1544
0.0876	0.6957	2320	0.1538
0.0964	0.7016	2340	0.1526
0.0766	0.7076	2360	0.1531
0.0796	0.7136	2380	0.1527
0.0954	0.7196	2400	0.1530
0.0893	0.7256	2420	0.1517
0.0699	0.7316	2440	0.1510
0.0895	0.7376	2460	0.1505
0.0916	0.7436	2480	0.1499
0.0951	0.7496	2500	0.1504
0.0803	0.7556	2520	0.1503
0.0792	0.7616	2540	0.1500
0.0973	0.7676	2560	0.1501
0.0933	0.7736	2580	0.1501
0.0948	0.7796	2600	0.1499
0.0849	0.7856	2620	0.1495
0.0907	0.7916	2640	0.1484
0.0827	0.7976	2660	0.1486
0.0901	0.8036	2680	0.1485
0.0784	0.8096	2700	0.1486
0.0741	0.8156	2720	0.1488
0.0918	0.8216	2740	0.1489
0.0883	0.8276	2760	0.1488
0.0846	0.8336	2780	0.1486
0.075	0.8396	2800	0.1484
0.0826	0.8456	2820	0.1483
0.0836	0.8516	2840	0.1485
0.0972	0.8576	2860	0.1483
0.0844	0.8636	2880	0.1482
0.0746	0.8696	2900	0.1483
0.1039	0.8756	2920	0.1481
0.088	0.8816	2940	0.1480
0.0889	0.8876	2960	0.1480
0.0815	0.8936	2980	0.1479
0.0747	0.8996	3000	0.1477
0.0872	0.9055	3020	0.1478
0.0775	0.9115	3040	0.1478
0.086	0.9175	3060	0.1477
0.0786	0.9235	3080	0.1474
0.0738	0.9295	3100	0.1474
0.0685	0.9355	3120	0.1474
0.0765	0.9415	3140	0.1474
0.0766	0.9475	3160	0.1474
0.0893	0.9535	3180	0.1474
0.0892	0.9595	3200	0.1474
0.0813	0.9655	3220	0.1475
0.0882	0.9715	3240	0.1475
0.0867	0.9775	3260	0.1474
0.0879	0.9835	3280	0.1474
0.0875	0.9895	3300	0.1474
0.0746	0.9955	3320	0.1474

Framework versions

Transformers 4.45.2
Pytorch 2.5.1+cu121
Datasets 3.5.0
Tokenizers 0.20.3

YuchenLi01/generatedMoreUniqueResponseNoGTv2_1.5B_sft_ebs32_lr2e-05_epoch1.0_42

generatedMoreUniqueResponseNoGTv2_1.5B_sft_ebs32_lr2e-05_epoch1.0_42

Model description

Intended uses & limitations

Training and evaluation data

Training procedure

Training hyperparameters

Training results

Framework versions

YuchenLi01/
generatedMoreUniqueResponseNoGTv2_1.5B_sft_ebs32_lr2e-05_epoch1.0_42