You can deploy this model and start earning money today!

mini1013/
master_cate_bc20

Name: master_cate_bc20
Availability: InStock

setfit

safetensors

roberta

sentence-transformers

text-classification

generated_from_setfit_trainer

2209.11055

mini1013/master_domain

finetune

model-index

Views

No views yet

SetFit with mini1013/master_domain

This is a SetFit model that can be used for Text Classification. This SetFit model uses mini1013/master_domain as the Sentence Transformer embedding model. A LogisticRegression instance is used for classification.

The model has been trained using an efficient few-shot learning technique that involves:

Fine-tuning a Sentence Transformer with contrastive learning.
Training a classification head with features from the fine-tuned Sentence Transformer.

Model Details

Model Description

Model Type: SetFit
Sentence Transformer body: mini1013/master_domain
Classification head: a LogisticRegression instance
Maximum Sequence Length: 512 tokens
Number of Classes: 18 classes

Model Sources

Repository: SetFit on GitHub
Paper: Efficient Few-Shot Learning Without Prompts
Blogpost: SetFit: Efficient Few-Shot Learning Without Prompts

Model Labels

Label	Examples
6.0	'대퍼스냅퍼 똑딱이 매직벨트 유아벨트 [160001]똑딱이 매직벨트-레드 출산/육아 > 유아동잡화 > 벨트/멜빵' '리틀그라운드룰라비(WH)-골지타이즈(73A12-816-03) 화이트_19 출산/육아 > 유아동잡화 > 벨트/멜빵' '어린이 기획전 땡땡이 멜빵 블랙 잇템 출산/육아 > 유아동잡화 > 벨트/멜빵'
9.0	'키즈 양털 부츠 아동 여아 방한 털 신발 겨울 방한화 털신 유아 어린이 슈즈 PS8218 10_PS8220_블랙_180 출산/육아 > 유아동잡화 > 신발 > 부츠/털신' '반스 키즈 운동화 팔켄 올드스쿨 유아 벨크로 115 - 220mm 01. 반스 올드스쿨V 키즈_화이트레드_160(오늘출발) 출산/육아 > 유아동잡화 > 신발 > 운동화' '텐우드 뉴벤 아기 유아 아동 여아 남아 엄마랑 세트 운동화 신발 140-250 네이비_190 출산/육아 > 유아동잡화 > 신발 > 운동화'
1.0	'푸아송 악세 플레인귀마개 핑크_FREE 출산/육아 > 유아동잡화 > 귀마개' '아동 귀마개 유아 아기 초등 여아 남아 방한 겨울 귀도리 D.방한세트_11_몰랑 핑크_핑크 (763930) 출산/육아 > 유아동잡화 > 귀마개' '노스페이스키즈 귀마개 키즈 이어머프 NA5IP50S ONE 출산/육아 > 유아동잡화 > 귀마개'
2.0	'미니위즈 웨이브 아쿠아슈즈 핫핑크 170 출산/육아 > 유아동잡화 > 기타유아동잡화' '아오스타 페이크폴라 아이보리_Free 출산/육아 > 유아동잡화 > 기타유아동잡화' '23겨울신상)고유 바닐라워머 갈색_junior-withadult(+3200) 출산/육아 > 유아동잡화 > 기타유아동잡화'
3.0	'포크칩스 에펠넥타이 키즈 주니어 리본으로도가능 유아동잡화 23가을 베이지_free 출산/육아 > 유아동잡화 > 넥타이' '댄디피쉬 유아 보타이 핀타입_백일 출산/육아 > 유아동잡화 > 넥타이' '네오텍스 스팡클 넥타이 / 어린이넥타이 블루 출산/육아 > 유아동잡화 > 넥타이'
5.0	'유아동 겨울 안감 네키 넥워머 모음, 아기 목도리, 국내생산 유아 여아 남아 머플러 4.체크사각곰_레드 출산/육아 > 유아동잡화 > 목도리' '아기 아동 유아 목도리 머플러 워머 쁘띠 어린이집 유치원 단체 학원 교회 브라운 베이지_2.셀프-노랑바스켓(+꽃 스티커) 출산/육아 > 유아동잡화 > 목도리' '23겨울 미니로브 잼잼머플러 진핑크_FREE 출산/육아 > 유아동잡화 > 목도리'
7.0	'달빛상회 주니어선글라스 쥬피터 화이트&형광오렌지 유아안경 키즈선글라스 실버렌즈(FA2147 SILVER) 출산/육아 > 유아동잡화 > 선글라스' '어린이 야구 스포츠 고글 선글라스 자외선X 조카선물 렌즈색상_레드(51053RED) 출산/육아 > 유아동잡화 > 선글라스' '리얼쉐이드 아기 유아 아동선글라스 자외선차단 KC인증 리얼키즈쉐이드 C3.칠리(0~2세)_블랙+c716 출산/육아 > 유아동잡화 > 선글라스'
10.0	'유아 아동 방수 앞치마 팔토시세트 김장 요리 미술 사자_130 출산/육아 > 유아동잡화 > 앞치마/토시/두건' '유아앞치마 아기 어린이집 앞치마 두건 세트 팔토시 옐로우_케빈(남아2)_한글반듯체 출산/육아 > 유아동잡화 > 앞치마/토시/두건' '플리에 한정수량 세일 유아미술가운 / 전신미술가운 / 지퍼백제공 B급상품(이염불량) 색상랜덤발송 / 성별기재_전신미술가운(투피스)_S (키95cm 이하) 출산/육아 > 유아동잡화 > 앞치마/토시/두건'
12.0	'유아 아동 우산 초등학생 초등 어린이 투명우산 포켓몬 시나모롤 피카츄 카카오 아기상어 헬로키티_16_헬로키티 스위트_200 (753761) 출산/육아 > 유아동잡화 > 우산' '핸드메이드 유아 아동 어린이 판초우의-체크 동물 캐릭터 비옷 우비 레인코트 장마 안전자켓 03. 유아동 판초우의-체크(블랙)_03. 유아동 판초우의-체크(블랙)/XL 출산/육아 > 유아동잡화 > 우산' '카카오프렌즈 어린이 아동 우산 32종 모음 02 트래블패턴 30011 네오핫핑크 출산/육아 > 유아동잡화 > 우산'
14.0	'초등학생지갑 남아카드지갑 여아지갑 동전 남학생반지갑 07~~08. 초등학생지갑_07.009 부드러운 소가죽카드지갑_옐로우 출산/육아 > 유아동잡화 > 지갑'~~ '유아동 어린이 남아 여아 선물 캐릭터 추천지갑 모음 (산리오 시나모롤 피카츄 포켓몬 동전지갑 목걸이지갑 반지갑) 포켓몬 원형 목걸이지갑_블랙 출산/육아 > 유아동잡화 > 지갑' '초등학생지갑 남아카드지갑 여아지갑 동전 남학생반지갑 0910. 양가죽지갑_10.코인목걸이카드지갑 _그레이 출산/육아 > 유아동잡화 > 지갑'
0.0	'초등 학생 책가방 아동 키즈 백팩 여아 가방 051.BB-314_블랙 출산/육아 > 유아동잡화 > 가방 > 백팩' '뉴발란스 키즈 고기능 고학년 2WAY 에센셜 데일리 초등학생 뉴키온세트 백팩 책가방 시즌 미니미 백팩_NK8ADF502U 베이지 출산/육아 > 유아동잡화 > 가방 > 백팩' '산리오 시나모롤 미아방지 가방 입체 배낭 251864 출산/육아 > 유아동잡화 > 가방 > 미아방지가방'
11.0	'아기 양말 신생아 발목 니삭스 돌 백일 양말세트 02)골지 양말_블랙_0호(90-110mm) 출산/육아 > 유아동잡화 > 양말' '아동양말 아기 유아 겨울 크리스마스 양말 주니어 어린이 키즈퓨처 남아 여아 초등 W03- 드림수면 (5종)_4호 (7~8세) 출산/육아 > 유아동잡화 > 양말' '아기양말 유아양말 아동양말 키즈 컬러 돌돌이 가을 겨울 미끄럼방지 세트 돌돌이 3호(L)_버건디(1켤레) 출산/육아 > 유아동잡화 > 양말'
13.0	'유아 어린이 아동 니트 스마트폰 터치 기모 털 겨울 장갑 주니어 초등 성인 여성 방한 2) 하트 / 아동(5~7세용)_레드 출산/육아 > 유아동잡화 > 장갑' '로이 키즈울장갑 초등학생 베이지_Free 출산/육아 > 유아동잡화 > 장갑' '남아장갑 아동 유아 스키장갑 초등학생 주니어 벙어리 손가락 F.오지스키장갑_36_윈터 체크 오지_M (00380) 출산/육아 > 유아동잡화 > 장갑'
16.0	'아기 유아 한복 머리띠 배씨 호박 헤어밴드 머리핀 여아 돌잔치 설 추석 촬영 출산/육아 > 유아동잡화 > 한복소품' 'BEEU 명절 설 한복 머리핀 나비 꽃 호박 여아 여성 유아 아기 아동 어린이 성인 헤어핀 머리띠 헤어밴드 장식 장신구 출산/육아 > 유아동잡화 > 한복소품' '명절 한복 머리띠,설 추석 호박 배씨 선녀 자개 땋은 댕기 헤어밴드 유아동 여아 여성 출산/육아 > 유아동잡화 > 한복소품'
17.0	'(흐르지않는) 유아 헤어핀 아기 머리핀 여아 똑딱 집게 논슬립 핀 어린이집 선물 B92.데이지 미니_데이지_3.5cm벨벳집게핀 출산/육아 > 유아동잡화 > 헤어액세서리 > 헤어핀' '아기헤어밴드 신생아 리본 레이스 백일 돌 유아 여아 머리띠 ♡11 피오니 헤어밴드_화이트 출산/육아 > 유아동잡화 > 헤어액세서리 > 헤어밴드' '밍크 벨벳 유아머리끈 여아 머리방울 아기 고무줄 12. 벨로아 방울 (한쌍)_대-인디핑크 출산/육아 > 유아동잡화 > 헤어액세서리 > 헤어끈'
8.0	'사계절 아기 목수건 겨울 기모 스카프빕 초등 봄 여름 거즈 턱받이 소프트스카프빕_코끼리블루 출산/육아 > 유아동잡화 > 스카프' '삼각 아기스카프 유아 쁘띠 어린이집 목수건 거즈 스카프_심플 핑크 출산/육아 > 유아동잡화 > 스카프' '아오스타 윈터케이프 진주_Free 출산/육아 > 유아동잡화 > 스카프'
15.0	'밴드 타이즈 크림아이_3-4세 출산/육아 > 유아동잡화 > 타이즈' '도레미 27컬러 봄 유아동 골지 데일리 타이즈 베이비 스타킹 남아 여아 공용 브라운_3호 출산/육아 > 유아동잡화 > 타이즈' '데일리베베 분리형타이즈 검정_JS ( 9-10세) 출산/육아 > 유아동잡화 > 타이즈'
4.0	'아기모자 유아 귀달이 방한 겨울 비니 니트 모자 B1.코튼 레옹 비니_브라운_FREE(3개월~4세) 출산/육아 > 유아동잡화 > 모자' '아기모자 캡 벙거지 니트 비니 유아 아동 백일 돌 두돌 베레모 봄 여름 가을 겨울 워싱무지 JJ)m자수볼캡_퍼플_FREE 출산/육아 > 유아동잡화 > 모자' '비치붐 카멜레온 리버시블 버킷햇 여성벙거지모자 키즈 아동 성인 코코아_L(59cm) 출산/육아 > 유아동잡화 > 모자'

Evaluation

Metrics

Label	Accuracy
all	1.0

Uses

Direct Use for Inference

First install the SetFit library:

pip install setfit

Then you can load this model and run inference.

python

from setfit import SetFitModel

# Download from the 🤗 Hub
model = SetFitModel.from_pretrained("mini1013/master_cate_bc20")
# Run inference
preds = model("23겨울 색종이장갑 노랑 출산/육아 > 유아동잡화 > 장갑")

Training Details

Training Set Metrics

Training set	Min	Median	Max
Word count	7	15.3769	28

Label	Training Sample Count
0.0	70
1.0	70
2.0	70
3.0	70
4.0	70
5.0	70
6.0	70
7.0	70
8.0	70
9.0	70
10.0	70
11.0	70
12.0	70
13.0	70
14.0	70
15.0	70
16.0	20
17.0	70

Training Hyperparameters

batch_size: (256, 256)
num_epochs: (30, 30)
max_steps: -1
sampling_strategy: oversampling
num_iterations: 50
body_learning_rate: (2e-05, 1e-05)
head_learning_rate: 0.01
loss: CosineSimilarityLoss
distance_metric: cosine_distance
margin: 0.25
end_to_end: False
use_amp: False
warmup_proportion: 0.1
l2_weight: 0.01
seed: 42
eval_max_steps: -1
load_best_model_at_end: False

Training Results

Epoch	Step	Training Loss	Validation Loss
0.0042	1	0.4815	-
0.2110	50	0.5015	-
0.4219	100	0.425	-
0.6329	150	0.1055	-
0.8439	200	0.035	-
1.0549	250	0.0152	-
1.2658	300	0.0077	-
1.4768	350	0.0043	-
1.6878	400	0.0018	-
1.8987	450	0.0008	-
2.1097	500	0.0009	-
2.3207	550	0.0008	-
2.5316	600	0.0006	-
2.7426	650	0.0004	-
2.9536	700	0.0002	-
3.1646	750	0.0001	-
3.3755	800	0.0001	-
3.5865	850	0.0001	-
3.7975	900	0.0001	-
4.0084	950	0.0	-
4.2194	1000	0.0	-
4.4304	1050	0.0	-
4.6414	1100	0.0	-
4.8523	1150	0.0	-
5.0633	1200	0.0	-
5.2743	1250	0.0	-
5.4852	1300	0.0	-
5.6962	1350	0.0	-
5.9072	1400	0.0	-
6.1181	1450	0.0	-
6.3291	1500	0.0	-
6.5401	1550	0.0	-
6.7511	1600	0.0	-
6.9620	1650	0.0	-
7.1730	1700	0.0	-
7.3840	1750	0.0	-
7.5949	1800	0.0	-
7.8059	1850	0.0	-
8.0169	1900	0.0	-
8.2278	1950	0.0	-
8.4388	2000	0.0	-
8.6498	2050	0.0	-
8.8608	2100	0.0	-
9.0717	2150	0.0	-
9.2827	2200	0.0	-
9.4937	2250	0.0	-
9.7046	2300	0.0	-
9.9156	2350	0.0	-
10.1266	2400	0.0	-
10.3376	2450	0.0	-
10.5485	2500	0.0	-
10.7595	2550	0.0	-
10.9705	2600	0.0	-
11.1814	2650	0.0	-
11.3924	2700	0.0	-
11.6034	2750	0.0	-
11.8143	2800	0.0	-
12.0253	2850	0.0	-
12.2363	2900	0.0	-
12.4473	2950	0.0	-
12.6582	3000	0.0	-
12.8692	3050	0.0	-
13.0802	3100	0.0	-
13.2911	3150	0.0	-
13.5021	3200	0.0	-
13.7131	3250	0.0	-
13.9241	3300	0.0	-
14.1350	3350	0.0	-
14.3460	3400	0.0	-
14.5570	3450	0.0	-
14.7679	3500	0.0	-
14.9789	3550	0.0	-
15.1899	3600	0.0	-
15.4008	3650	0.0	-
15.6118	3700	0.0	-
15.8228	3750	0.0	-
16.0338	3800	0.0	-
16.2447	3850	0.0	-
16.4557	3900	0.0	-
16.6667	3950	0.0	-
16.8776	4000	0.0	-
17.0886	4050	0.0	-
17.2996	4100	0.0	-
17.5105	4150	0.0	-
17.7215	4200	0.0	-
17.9325	4250	0.0	-
18.1435	4300	0.0	-
18.3544	4350	0.0	-
18.5654	4400	0.0	-
18.7764	4450	0.0	-
18.9873	4500	0.0	-
19.1983	4550	0.0	-
19.4093	4600	0.0	-
19.6203	4650	0.0	-
19.8312	4700	0.0	-
20.0422	4750	0.0	-
20.2532	4800	0.0	-
20.4641	4850	0.0	-
20.6751	4900	0.0	-
20.8861	4950	0.0	-
21.0970	5000	0.0	-
21.3080	5050	0.0	-
21.5190	5100	0.0	-
21.7300	5150	0.0	-
21.9409	5200	0.0	-
22.1519	5250	0.0	-
22.3629	5300	0.0	-
22.5738	5350	0.0	-
22.7848	5400	0.0	-
22.9958	5450	0.0	-
23.2068	5500	0.0	-
23.4177	5550	0.0	-
23.6287	5600	0.0	-
23.8397	5650	0.0	-
24.0506	5700	0.0	-
24.2616	5750	0.0	-
24.4726	5800	0.0	-
24.6835	5850	0.0	-
24.8945	5900	0.0	-
25.1055	5950	0.0	-
25.3165	6000	0.0	-
25.5274	6050	0.0	-
25.7384	6100	0.0	-
25.9494	6150	0.0	-
26.1603	6200	0.0	-
26.3713	6250	0.0	-
26.5823	6300	0.0	-
26.7932	6350	0.0	-
27.0042	6400	0.0	-
27.2152	6450	0.0	-
27.4262	6500	0.0	-
27.6371	6550	0.0	-
27.8481	6600	0.0	-
28.0591	6650	0.0	-
28.2700	6700	0.0	-
28.4810	6750	0.0	-
28.6920	6800	0.0	-
28.9030	6850	0.0	-
29.1139	6900	0.0	-
29.3249	6950	0.0	-
29.5359	7000	0.0	-
29.7468	7050	0.0	-
29.9578	7100	0.0	-

Framework Versions

Python: 3.10.12
SetFit: 1.1.0
Sentence Transformers: 3.3.1
Transformers: 4.44.2
PyTorch: 2.2.0a0+81ea7a4
Datasets: 3.2.0
Tokenizers: 0.19.1

Citation

BibTeX

bibtex

@article{https://doi.org/10.48550/arxiv.2209.11055,
    doi = {10.48550/ARXIV.2209.11055},
    url = {https://arxiv.org/abs/2209.11055},
    author = {Tunstall, Lewis and Reimers, Nils and Jo, Unso Eun Seo and Bates, Luke and Korat, Daniel and Wasserblat, Moshe and Pereg, Oren},
    keywords = {Computation and Language (cs.CL), FOS: Computer and information sciences, FOS: Computer and information sciences},
    title = {Efficient Few-Shot Learning Without Prompts},
    publisher = {arXiv},
    year = {2022},
    copyright = {Creative Commons Attribution 4.0 International}
}