Қазақ тіліне басымдық берілген tokenizer · Tokenizer с приоритетом казахского · Kazakh-priority tokenizer
Қазақша · Русский · English
Til-vocab-morphbpe-96k-kkrumix-v1 — қазақ, орыс және ағылшын тілдеріне, код пен математика мәтіндеріне арналған көлемі 9.2 МБ byte-level BPE tokenizer. Сөздік көлемі 96 000 токен; қазақ тіліне басымдық берілген.
Репозиторийде 3 файл бар, негізгі… See the full description on the dataset page:
https://huggingface.co/datasets/TilQazyna/Til-vocab-morphbpe-96k-kkrumix-v1.
