You can deploy this model and start earning money today!

alinerodrigues/
wav2vec2-large-xlsr-grosman-53-texts-exp-1-v3

Name: wav2vec2-large-xlsr-grosman-53-texts-exp-1-v3
Availability: InStock

pytorch

wav2vec2

generated_from_trainer

apache-2.0

Views

No views yet

wav2vec2-large-xlsr-grosman-53-texts-exp-1-v3

This model is a fine-tuned version of jonatasgrosman/wav2vec2-large-xlsr-53-portuguese on an unknown dataset. It achieves the following results on the evaluation set:

Loss: 0.3503
Wer: 0.2146
Cer: 0.1336
Per: 0.1516

Model description

More information needed

Intended uses & limitations

More information needed

Training and evaluation data

More information needed

Training procedure

Training hyperparameters

The following hyperparameters were used during training:

learning_rate: 3e-05
train_batch_size: 16
eval_batch_size: 8
seed: 42
gradient_accumulation_steps: 2
total_train_batch_size: 32
optimizer: Adam with betas=(0.9,0.999) and epsilon=1e-08
lr_scheduler_type: linear
num_epochs: 200
mixed_precision_training: Native AMP

Training results

Training Loss	Epoch	Step	Validation Loss	Wer	Cer	Per
82.7507	1.0	64	9.5087	1.0065	0.9011	0.9176
14.8199	2.0	128	8.3819	1.0196	0.8873	0.8873
14.8199	3.0	192	6.9491	1.0020	0.9189	0.8860
6.7267	4.0	256	5.6698	1.0	0.9361	0.9028
5.3462	5.0	320	5.0456	1.0	0.9340	0.9009
5.3462	6.0	384	2.9250	1.0	0.9669	0.9490
3.8235	7.0	448	2.8923	1.0	0.9669	0.9490
2.89	8.0	512	2.8117	1.0	0.9669	0.9490
2.89	9.0	576	2.4110	1.0	0.8887	0.8671
2.6694	10.0	640	1.6775	0.9165	0.4586	0.4537
1.6253	11.0	704	0.9724	0.6410	0.2798	0.3033
1.6253	12.0	768	0.7292	0.4596	0.2112	0.2297
0.8127	13.0	832	0.5714	0.3642	0.1807	0.1991
0.8127	14.0	896	0.4999	0.3218	0.1677	0.1858
0.5195	15.0	960	0.4771	0.2943	0.1593	0.1769
0.395	16.0	1024	0.4387	0.2744	0.1533	0.1710
0.395	17.0	1088	0.4370	0.2666	0.1499	0.1675
0.3351	18.0	1152	0.4118	0.2525	0.1458	0.1632
0.2778	19.0	1216	0.3840	0.2458	0.1429	0.1602
0.2778	20.0	1280	0.4060	0.2510	0.1439	0.1611
0.2573	21.0	1344	0.3829	0.2393	0.1405	0.1584
0.2327	22.0	1408	0.3633	0.2359	0.1395	0.1570
0.2327	23.0	1472	0.3678	0.2313	0.1390	0.1565
0.2135	24.0	1536	0.3697	0.2331	0.1390	0.1565
0.1995	25.0	1600	0.3688	0.2282	0.1380	0.1555
0.1995	26.0	1664	0.3877	0.2316	0.1397	0.1571
0.1889	27.0	1728	0.3643	0.2293	0.1385	0.1557
0.1889	28.0	1792	0.3737	0.2253	0.1371	0.1542
0.1784	29.0	1856	0.3723	0.2236	0.1359	0.1531
0.1679	30.0	1920	0.3616	0.2241	0.1369	0.1546
0.1679	31.0	1984	0.3575	0.2222	0.1361	0.1537
0.1598	32.0	2048	0.3776	0.2210	0.1355	0.1538
0.1643	33.0	2112	0.3736	0.2209	0.1357	0.1537
0.1643	34.0	2176	0.3522	0.2177	0.1344	0.1514
0.1499	35.0	2240	0.3633	0.2184	0.1347	0.1520
0.1408	36.0	2304	0.3681	0.2161	0.1348	0.1525
0.1408	37.0	2368	0.3548	0.2150	0.1328	0.1505
0.1395	38.0	2432	0.3596	0.2156	0.1337	0.1517
0.1395	39.0	2496	0.3531	0.2157	0.1338	0.1518
0.1393	40.0	2560	0.3768	0.2198	0.1348	0.1525
0.1349	41.0	2624	0.3600	0.2158	0.1331	0.1514
0.1349	42.0	2688	0.3629	0.2185	0.1339	0.1517
0.1175	43.0	2752	0.3669	0.2131	0.1334	0.1514
0.1626	44.0	2816	0.3666	0.2169	0.1335	0.1514
0.1626	45.0	2880	0.3503	0.2146	0.1336	0.1516
0.123	46.0	2944	0.3796	0.2157	0.1345	0.1523
0.1127	47.0	3008	0.3717	0.2133	0.1334	0.1511
0.1127	48.0	3072	0.3683	0.2145	0.1332	0.1500
0.1049	49.0	3136	0.3711	0.2130	0.1329	0.1507
0.101	50.0	3200	0.3688	0.2111	0.1324	0.1502
0.101	51.0	3264	0.3758	0.2140	0.1328	0.1501
0.1022	52.0	3328	0.3569	0.2103	0.1315	0.1492
0.1022	53.0	3392	0.3681	0.2115	0.1315	0.1490
0.1071	54.0	3456	0.3696	0.2081	0.1319	0.1492
0.1039	55.0	3520	0.3650	0.2104	0.1319	0.1497
0.1039	56.0	3584	0.3669	0.2107	0.1316	0.1492
0.1105	57.0	3648	0.3644	0.2102	0.1310	0.1482
0.0957	58.0	3712	0.3738	0.2098	0.1314	0.1489
0.0957	59.0	3776	0.3724	0.2120	0.1318	0.1487
0.0901	60.0	3840	0.3690	0.2125	0.1322	0.1494
0.0928	61.0	3904	0.3667	0.2122	0.1321	0.1494
0.0928	62.0	3968	0.3854	0.2078	0.1304	0.1479
0.0802	63.0	4032	0.3980	0.2085	0.1322	0.1493
0.0802	64.0	4096	0.3795	0.2080	0.1310	0.1483
0.0904	65.0	4160	0.3739	0.2074	0.1311	0.1487

Framework versions

Transformers 4.28.0
Pytorch 2.6.0+cu124
Datasets 3.6.0
Tokenizers 0.13.3

alinerodrigues/wav2vec2-large-xlsr-grosman-53-texts-exp-1-v3

wav2vec2-large-xlsr-grosman-53-texts-exp-1-v3

Model description

Intended uses & limitations

Training and evaluation data

Training procedure

Training hyperparameters

Training results

Framework versions

alinerodrigues/
wav2vec2-large-xlsr-grosman-53-texts-exp-1-v3