Bertizinho Contos de Fadas (pt-BR)
Pequeno modelo BERT-like treinado do zero em contos de fadas em português.
Arquitetura:
- d_model = 256
- n_layers = 2
- n_heads = 4
- d_ff = 512
- vocab_size ≈ 11k (tokenização por espaço)
Uso didático para classificação de texto e QA em sala de aula.