Repository: wolf4032/nlp-token-classification
- データセット、言語モデル、アプリの作成に使ったコードが掲載されています
Documentation: Qiita
Demo: wolf4032/japanese-token-classification-search-local-cuisine

How to Get Started with the Model

Google Colaboratoryの場合

python

!pip install transformers fugashi ipadic
!pip install unidic-lite

from transformers import BertJapaneseTokenizer, BertForTokenClassification
from transformers import pipeline

model_name = 'wolf4032/bert-japanese-token-classification-search-local-cuisine'

model = BertForTokenClassification.from_pretrained(model_name)
tokenizer = BertJapaneseTokenizer.from_pretrained(model_name)

ner_pipeline = pipeline(
    'token-classification',
    model=model,
    tokenizer=tokenizer,
    aggregation_strategy='simple'
)

input = '東京の肉料理で、春に食べられる、鶏肉を使った料理を教えてください'
ner_pipeline(input)

Training Details

Training Data

wolf4032/token-classification-japanese-search-local-cuisine

Evaluation

Testing Data, Factors & Metrics

Testing Data

wolf4032/token-classification-japanese-search-local-cuisine

Metrics

F1 Score: 調和平均に基づくメトリクスで、精度と再現率のバランスを示します。
Accuracy: モデルが正しく予測したインスタンスの割合を示します。
Precision: モデルが真と予測したもののうち、実際に真であったものの割合を示します。
Recall: 実際に真であるもののうち、モデルが真と予測したものの割合を示します。

Results

f1: 0.9961977186311787
accuracy: 0.9995689655172414
precision: 0.9940978077571669
recall: 0.9983065198983911