Views
No views yet
1id: token
20: <pad>
31: <eos>
42: <unk>
53~258: utf-8 encoding
6259~277: beginning consonants(초성), 19개(ㄱㄲㄴㄷㄸㄹㅁㅂㅃㅅㅆㅇㅈㅉㅊㅋㅌㅍㅎ)
7278~298: middle vowel(중성), 21개(ㅏㅐㅑㅒㅓㅔㅕㅖㅗㅘㅙㅚㅛㅜㅝㅞㅟㅠㅡㅢㅣ)
8299~326: final consonant(종성), 무종성+27개(ㄱㄲㄳㄴㄵㄶㄷㄹㄺㄻㄼㄽㄾㄿㅀㅁㅂㅄㅅㅆㅇㅈㅊㅋㅌㅍㅎ)
9327~384: from <extra_id_0> to <extra_id_57>1import torch
2from tokenizer import ByT5KoreanTokenizer # https://huggingface.co/everdoubling/byt5-Korean-base/blob/main/tokenizer.py
3from transformers import T5ForConditionalGeneration
4
5tokenizer_jamo = ByT5KoreanTokenizer()
6model = T5ForConditionalGeneration.from_pretrained('everdoubling/byt5-Korean-base')
7
8input_sentence = '한국어 위키백과(영어: Korean Wikipedia)는 한국어로 운영되는 위키백과의 다언어판 가운데 하나로서, 2002년 10월 11일에 <extra_id_0>. 또한 현재 한국어 위키백과에는 넘겨주기, 토론, 그림 등 페이지로 불리는 모든 문서를 포함하면 총 2,629,860개가 <extra_id_1>되어 있으며, 넘겨주기를 포함한 일반 문서 수는 1,278,560개,[1] 그중 넘겨주기, 막다른 문서를 제외한 일반 문서 수는 573,149개이다.'
9
10input_ids_jamo = tokenizer_jamo(input_sentence).input_ids
11outputs_jamo = model_jamo.generate(torch.tensor([input_ids_jamo]))
12print(tokenizer_jamo.decode(outputs_jamo[0]))
13# <pad><extra_id_0>설립되었다<extra_id_1>đě