mini1013/master_item_top_bt10

SetFit with klue/roberta-base

This is a SetFit model that can be used for Text Classification. This SetFit model uses klue/roberta-base as the Sentence Transformer embedding model. A LogisticRegression instance is used for classification.

The model has been trained using an efficient few-shot learning technique that involves:

1. Fine-tuning a Sentence Transformer with contrastive learning.
2. Training a classification head with features from the fine-tuned Sentence Transformer.

Model Details

Model Description

• Model Type: SetFit
• Sentence Transformer body: klue/roberta-base
• Classification head: a LogisticRegression instance
• Maximum Sequence Length: 512 tokens
• Number of Classes: 7 classes

Model Sources

• Repository: SetFit on GitHub
• Paper: Efficient Few-Shot Learning Without Prompts
• Blogpost: SetFit: Efficient Few-Shot Learning Without Prompts

Model Labels

Label	Examples
6	'클렌징 버블 마유 말 폼 더블워시 세안제 마유더블워시폼 1개_케어나이트크림 1개 (#M)위메프 > 뷰티 > 이미용소품/기기 > 클렌징소품 > 브러쉬/진동클렌저 위메프 > 뷰티 > 이미용소품/기기 > 클렌징소품 > 브러쉬/진동클렌저' '시카 클렌징 폼 아하 세안제 클렌져 병풀 시카프라임폼 2개_마유율무스킨500 1개 (#M)위메프 > 뷰티 > 이미용소품/기기 > 클렌징소품 > 브러쉬/진동클렌저 위메프 > 뷰티 > 이미용소품/기기 > 클렌징소품 > 브러쉬/진동클렌저' '시카 클렌징 폼 세안제 클렌져 아침 바하. WB2838D 시카프라임폼 2개_쿨바디워시(파랑) 2개 (#M)위메프 > 뷰티 > 이미용소품/기기 > 클렌징소품 > 브러쉬/진동클렌저 위메프 > 뷰티 > 이미용소품/기기 > 클렌징소품 > 브러쉬/진동클렌저'
2	'뉴트로지나 딥클린 클렌징 오일 200ml (#M)위메프 > 뷰티 > 이미용소품/기기 > 클렌징소품 > 브러쉬/진동클렌저 위메프 > 뷰티 > 이미용소품/기기 > 클렌징소품 > 브러쉬/진동클렌저' '설화수 순행클렌징 오일200ml GM MinSellAmount 화장품/향수>클렌징/필링>클렌징오일/워터;(#M)화장품/향수>클렌징/필링>클렌징오일 Gmarket > 뷰티 > 화장품/향수 > 클렌징/필링 > 클렌징오일' '온더바디 라이스 화장 리무버 피지제거 클렌징오일 클렌징오일200ml (#M)위메프 > 뷰티 > 이미용소품/기기 > 클렌징소품 > 브러쉬/진동클렌저 위메프 > 뷰티 > 이미용소품/기기 > 클렌징소품 > 브러쉬/진동클렌저'
5	'[토니모리] 99 제비집 아이크림/그린티 클렌징티슈 1+1 9,900원 + 11번가 단독 92_프로클린 클렌징 티슈_200매 세트 11st>선케어>선크림/선블록>선크림/선블록;쇼킹딜 홈>뷰티>선케어/메이크업>선블록;쇼킹딜 홈>뷰티>스킨케어>스킨/로션;쇼킹딜 홈>뷰티>선케어/메이크업>립/치크메이크업;11st>뷰티>선케어/메이크업>립/치크메이크업;11st>메이크업>립메이크업>립틴트;11st > 뷰티 > 선케어 > 선크림/선블록 11st Hour Event > 패션/뷰티 > 뷰티 > 선케어/메이크업 > 립/치크메이크업' '아임프롬 페어 수딩 패드 기획 (휴대용 패드 케이스 증정) [단독기획] 아임프롬 페어 수딩 패드(휴대용 패드 케이스 증정) (#M)홈>마스크팩>시트팩/패드>패드 OLIVEYOUNG > 마스크팩 > 시트팩/패드 > 패드' '코스알엑스 원스텝 오리지널 클리어 패드 70매_토너패드,각질패드 원스텝 오리지널 클리어 패드 홈>뷰티 DAY;홈>패드 만원&시카세럼 1+1;홈>뷰티 위-크;홈>❣️9.24 오후7시~ 1+1(24시간)❣️;홈>❣️1+1❣️패드,풀핏,시카라인;홈>💗패드1+1💗 ~11.3 오후6시;홈>라이브 제품 전체보기;홈>LIVE 특가 🔥;홈>✨네이버 쇼핑 페스타🎪>⏰9,900원 뷰티데이 단 하루 특가;홈>✨네이버 쇼핑 페스타🎪>👍패드의 원조! UP TO 40% OFF!;홈>🎃해피 할로윈 깜짝 선물🎁;홈>원스텝 패드;홈>브랜드위크 SALE;홈>윈터세일 UP TO 50%;홈>패드;(#M)홈>라인별>원스텝 패드 Naverstore > 화장품/미용 > 클렌징 > 스크럽/필링'
0	'아리따움 뽀오얀 미소 발효 립앤아이 리무버 250ml MinSellAmount (#M)화장품/향수>클렌징/필링>립앤아이리무버 Gmarket > 뷰티 > 화장품/향수 > 클렌징/필링 > 립앤아이리무버' '비파실 립 앤 아이 리무버 125ml LotteOn > 뷰티 > 클렌징 > 클렌징오일 LotteOn > 뷰티 > 럭셔리 스킨케어 > 클렌징 > 립아이리무버' '아리따움 뽀오얀 미소 발효 립앤아이 리무버 250ml 위메프 > 뷰티 > 스킨케어 > 로션/에멀젼;위메프 > 뷰티 > 클렌징/필링 > 클렌징;(#M)위메프 > 뷰티 > 클렌징/필링 > 클렌징 > 클렌징오일 위메프 > 뷰티 > 스킨케어 > 로션/에멀젼'
4	'맛사지클림 에코에니어 퓨어 아르간 리얼 클렌징 크림 300ml -O (#M)위메프 > 뷰티 > 이미용소품/기기 > 클렌징소품 > 브러쉬/진동클렌저 위메프 > 뷰티 > 이미용소품/기기 > 클렌징소품 > 브러쉬/진동클렌저' '이노벨라 클렌징 메이크업제거 크림 발아현미 300ml (#M)위메프 > 뷰티 > 이미용소품/기기 > 클렌징소품 > 브러쉬/진동클렌저 위메프 > 뷰티 > 이미용소품/기기 > 클렌징소품 > 브러쉬/진동클렌저' '이컬 알로에 클렌징 메이크업제거 크림 300ml (#M)위메프 > 뷰티 > 이미용소품/기기 > 클렌징소품 > 브러쉬/진동클렌저 위메프 > 뷰티 > 이미용소품/기기 > 클렌징소품 > 브러쉬/진동클렌저'
1	'셀리맥스 지우개 패드 60매 / 화해 어워드 1위 지우개패드 1개 홈>썸머위크🔥Big Sale;홈>[만원의 행복];홈>[50%]셀리맥스 브랜드위크;홈>만원의 행복 [패드];홈>셀리맥스 Best아이템;홈>[50%] 슈퍼위크;홈>[50%] 셀리맥스 베스트템;홈>[50%] 봄맞이 빅세일;홈>네이버 단독 특가;홈>네이버 특가;홈>1만원 패드 모음;홈>[기간한정] 6월 썸머위크;홈>패드1만원;홈>[패드] 만원의 행복;홈>[1만원] 패드;홈>패드;홈>1만원 패드;홈>[1위] 패드;홈>[화해 1위] 패드;(#M)홈>네이버Best Naverstore > 화장품/미용 > 클렌징 > 스크럽/필링' '아이오페 프로 필링 소프트 젤 (#M)SSG.COM/남성화장품/클렌징/쉐이빙 ssg > 뷰티 > 남성화장품 > 클렌징/쉐이빙' '프리메라 페이셜 마일드 필링젤 150ml 얼굴각질제거제 저자극 때 제거 박피 페이스스크럽 페이셜 마일드 필링 250ml (대용량) (#M)홈>화장품/미용>클렌징>스크럽/필링 Naverstore > 화장품/미용 > 클렌징 > 스크럽/필링'
3	'헤라 리프레싱 토닉 클렌징워터 200ML (#M)홈>화장품/미용>클렌징>클렌징워터 Naverstore > 화장품/미용 > 클렌징 > 클렌징워터' '눅스 오 데마끼앙 미셀레르 미셀라 클렌징 워터 200ml (#M)11st>클렌징/필링>클렌징워터>클렌징워터 11st > 뷰티 > 클렌징/필링 > 클렌징워터' '[82%+10%+T11%]토니모리 빅세일 UP TO 82%+그린티 클렌징워터 55_더 촉촉 그린티 노워시 클렌징 워터_500ml 쇼킹딜 홈>뷰티>스킨케어>스킨/로션;쇼킹딜 홈>뷰티>선케어/메이크업>립/치크메이크업;11st>메이크업>립메이크업>립틴트;11st>뷰티>선케어/메이크업>립/치크메이크업;11st>스킨케어>스킨케어 세트>스킨케어 세트;11st>뷰티>스킨케어>스킨/로션;11st > 뷰티 > 스킨케어 > 스킨케어 세트 11st Hour Event > 패션/뷰티 > 뷰티 > 스킨케어 > 스킨/로션'

Evaluation

Metrics

Label	Accuracy
all	0.9384

Uses

Direct Use for Inference

First install the SetFit library:

pip install setfit

Then you can load this model and run inference.

from setfit import SetFitModel

# Download from the 🤗 Hub
model = SetFitModel.from_pretrained("mini1013/master_item_top_bt10")
# Run inference
preds = model("[토니모리] 플로리아 브라이트닝 필링젤  (#M)GSSHOP>뷰티>클렌징>스크럽/필링 GSSHOP > 뷰티 > 클렌징 > 스크럽/필링")

Training Details

Training Set Metrics

Training set	Min	Median	Max
Word count	13	24.4171	93

Label	Training Sample Count
0	50
1	50
2	50
3	50
4	50
5	50
6	50

Training Hyperparameters

• batch_size: (64, 64)
• num_epochs: (30, 30)
• max_steps: -1
• sampling_strategy: oversampling
• num_iterations: 100
• body_learning_rate: (2e-05, 1e-05)
• head_learning_rate: 0.01
• loss: CosineSimilarityLoss
• distance_metric: cosine_distance
• margin: 0.25
• end_to_end: False
• use_amp: False
• warmup_proportion: 0.1
• l2_weight: 0.01
• seed: 42
• eval_max_steps: -1
• load_best_model_at_end: False

Training Results

Epoch	Step	Training Loss	Validation Loss
0.0018	1	0.4399	-
0.0914	50	0.3733	-
0.1828	100	0.3256	-
0.2742	150	0.3157	-
0.3656	200	0.3006	-
0.4570	250	0.2302	-
0.5484	300	0.1886	-
0.6399	350	0.1366	-
0.7313	400	0.1011	-
0.8227	450	0.0516	-
0.9141	500	0.0292	-
1.0055	550	0.0129	-
1.0969	600	0.0011	-
1.1883	650	0.0005	-
1.2797	700	0.0005	-
1.3711	750	0.0004	-
1.4625	800	0.0003	-
1.5539	850	0.0003	-
1.6453	900	0.0002	-
1.7367	950	0.0002	-
1.8282	1000	0.0001	-
1.9196	1050	0.0001	-
2.0110	1100	0.0001	-
2.1024	1150	0.0001	-
2.1938	1200	0.0001	-
2.2852	1250	0.0001	-
2.3766	1300	0.0001	-
2.4680	1350	0.0	-
2.5594	1400	0.0001	-
2.6508	1450	0.0	-
2.7422	1500	0.0	-
2.8336	1550	0.0	-
2.9250	1600	0.0	-
3.0165	1650	0.0	-
3.1079	1700	0.0	-
3.1993	1750	0.0	-
3.2907	1800	0.0	-
3.3821	1850	0.0	-
3.4735	1900	0.0	-
3.5649	1950	0.0	-
3.6563	2000	0.0	-
3.7477	2050	0.0	-
3.8391	2100	0.0	-
3.9305	2150	0.0	-
4.0219	2200	0.0	-
4.1133	2250	0.0	-
4.2048	2300	0.0	-
4.2962	2350	0.0	-
4.3876	2400	0.0	-
4.4790	2450	0.0	-
4.5704	2500	0.0	-
4.6618	2550	0.0	-
4.7532	2600	0.0	-
4.8446	2650	0.0	-
4.9360	2700	0.0	-
5.0274	2750	0.0	-
5.1188	2800	0.0	-
5.2102	2850	0.0	-
5.3016	2900	0.0	-
5.3931	2950	0.0	-
5.4845	3000	0.0	-
5.5759	3050	0.0	-
5.6673	3100	0.0	-
5.7587	3150	0.0	-
5.8501	3200	0.0	-
5.9415	3250	0.0	-
6.0329	3300	0.0	-
6.1243	3350	0.0	-
6.2157	3400	0.0	-
6.3071	3450	0.0	-
6.3985	3500	0.0	-
6.4899	3550	0.0	-
6.5814	3600	0.0	-
6.6728	3650	0.0	-
6.7642	3700	0.0	-
6.8556	3750	0.0	-
6.9470	3800	0.0	-
7.0384	3850	0.0	-
7.1298	3900	0.0	-
7.2212	3950	0.0	-
7.3126	4000	0.0	-
7.4040	4050	0.0051	-
7.4954	4100	0.0091	-
7.5868	4150	0.0032	-
7.6782	4200	0.0014	-
7.7697	4250	0.0	-
7.8611	4300	0.0	-
7.9525	4350	0.0	-
8.0439	4400	0.0	-
8.1353	4450	0.0	-
8.2267	4500	0.0	-
8.3181	4550	0.0	-
8.4095	4600	0.0	-
8.5009	4650	0.0	-
8.5923	4700	0.0	-
8.6837	4750	0.0	-
8.7751	4800	0.0	-
8.8665	4850	0.0	-
8.9580	4900	0.0	-
9.0494	4950	0.0	-
9.1408	5000	0.0	-
9.2322	5050	0.0	-
9.3236	5100	0.0	-
9.4150	5150	0.0	-
9.5064	5200	0.0	-
9.5978	5250	0.0	-
9.6892	5300	0.0	-
9.7806	5350	0.0	-
9.8720	5400	0.0	-
9.9634	5450	0.0	-
10.0548	5500	0.0	-
10.1463	5550	0.0	-
10.2377	5600	0.0	-
10.3291	5650	0.0	-
10.4205	5700	0.0	-
10.5119	5750	0.0	-
10.6033	5800	0.0	-
10.6947	5850	0.0	-
10.7861	5900	0.0	-
10.8775	5950	0.0	-
10.9689	6000	0.0	-
11.0603	6050	0.0	-
11.1517	6100	0.0	-
11.2431	6150	0.0	-
11.3346	6200	0.0	-
11.4260	6250	0.0	-
11.5174	6300	0.0	-
11.6088	6350	0.0	-
11.7002	6400	0.0	-
11.7916	6450	0.0	-
11.8830	6500	0.0	-
11.9744	6550	0.0	-
12.0658	6600	0.0	-
12.1572	6650	0.0	-
12.2486	6700	0.0	-
12.3400	6750	0.0	-
12.4314	6800	0.0	-
12.5229	6850	0.0	-
12.6143	6900	0.0	-
12.7057	6950	0.0	-
12.7971	7000	0.0	-
12.8885	7050	0.0	-
12.9799	7100	0.0	-
13.0713	7150	0.0	-
13.1627	7200	0.0	-
13.2541	7250	0.0	-
13.3455	7300	0.0	-
13.4369	7350	0.0	-
13.5283	7400	0.0	-
13.6197	7450	0.0	-
13.7112	7500	0.0	-
13.8026	7550	0.0	-
13.8940	7600	0.0	-
13.9854	7650	0.0	-
14.0768	7700	0.0	-
14.1682	7750	0.0	-
14.2596	7800	0.0	-
14.3510	7850	0.0	-
14.4424	7900	0.0	-
14.5338	7950	0.0	-
14.6252	8000	0.0	-
14.7166	8050	0.0	-
14.8080	8100	0.0	-
14.8995	8150	0.0	-
14.9909	8200	0.0	-
15.0823	8250	0.0	-
15.1737	8300	0.0	-
15.2651	8350	0.0	-
15.3565	8400	0.0	-
15.4479	8450	0.0	-
15.5393	8500	0.0	-
15.6307	8550	0.0	-
15.7221	8600	0.0	-
15.8135	8650	0.0	-
15.9049	8700	0.0	-
15.9963	8750	0.0	-
16.0878	8800	0.0	-
16.1792	8850	0.0	-
16.2706	8900	0.0	-
16.3620	8950	0.0	-
16.4534	9000	0.0	-
16.5448	9050	0.0	-
16.6362	9100	0.0	-
16.7276	9150	0.0	-
16.8190	9200	0.0	-
16.9104	9250	0.0	-
17.0018	9300	0.0	-
17.0932	9350	0.0	-
17.1846	9400	0.0	-
17.2761	9450	0.0	-
17.3675	9500	0.0	-
17.4589	9550	0.0	-
17.5503	9600	0.0	-
17.6417	9650	0.0	-
17.7331	9700	0.0	-
17.8245	9750	0.0	-
17.9159	9800	0.0	-
18.0073	9850	0.0	-
18.0987	9900	0.0	-
18.1901	9950	0.0	-
18.2815	10000	0.0	-
18.3729	10050	0.0	-
18.4644	10100	0.0	-
18.5558	10150	0.0	-
18.6472	10200	0.0	-
18.7386	10250	0.0	-
18.8300	10300	0.0	-
18.9214	10350	0.0	-
19.0128	10400	0.0	-
19.1042	10450	0.0	-
19.1956	10500	0.0	-
19.2870	10550	0.0	-
19.3784	10600	0.0	-
19.4698	10650	0.0	-
19.5612	10700	0.0	-
19.6527	10750	0.0	-
19.7441	10800	0.0	-
19.8355	10850	0.0	-
19.9269	10900	0.0	-
20.0183	10950	0.0	-
20.1097	11000	0.0	-
20.2011	11050	0.0	-
20.2925	11100	0.0	-
20.3839	11150	0.0	-
20.4753	11200	0.0	-
20.5667	11250	0.0	-
20.6581	11300	0.0	-
20.7495	11350	0.0	-
20.8410	11400	0.0	-
20.9324	11450	0.0	-
21.0238	11500	0.0	-
21.1152	11550	0.0	-
21.2066	11600	0.0	-
21.2980	11650	0.0	-
21.3894	11700	0.0001	-
21.4808	11750	0.0004	-
21.5722	11800	0.0	-
21.6636	11850	0.0	-
21.7550	11900	0.0	-
21.8464	11950	0.0002	-
21.9378	12000	0.0002	-
22.0293	12050	0.0	-
22.1207	12100	0.0	-
22.2121	12150	0.0	-
22.3035	12200	0.0	-
22.3949	12250	0.0	-
22.4863	12300	0.0	-
22.5777	12350	0.0	-
22.6691	12400	0.0	-
22.7605	12450	0.0	-
22.8519	12500	0.0	-
22.9433	12550	0.0	-
23.0347	12600	0.0	-
23.1261	12650	0.0	-
23.2176	12700	0.0	-
23.3090	12750	0.0	-
23.4004	12800	0.0	-
23.4918	12850	0.0	-
23.5832	12900	0.0	-
23.6746	12950	0.0	-
23.7660	13000	0.0	-
23.8574	13050	0.0	-
23.9488	13100	0.0	-
24.0402	13150	0.0	-
24.1316	13200	0.0	-
24.2230	13250	0.0	-
24.3144	13300	0.0	-
24.4059	13350	0.0	-
24.4973	13400	0.0	-
24.5887	13450	0.0	-
24.6801	13500	0.0	-
24.7715	13550	0.0	-
24.8629	13600	0.0	-
24.9543	13650	0.0	-
25.0457	13700	0.0	-
25.1371	13750	0.0	-
25.2285	13800	0.0	-
25.3199	13850	0.0	-
25.4113	13900	0.0	-
25.5027	13950	0.0	-
25.5941	14000	0.0	-
25.6856	14050	0.0	-
25.7770	14100	0.0	-
25.8684	14150	0.0	-
25.9598	14200	0.0	-
26.0512	14250	0.0	-
26.1426	14300	0.0	-
26.2340	14350	0.0	-
26.3254	14400	0.0	-
26.4168	14450	0.0	-
26.5082	14500	0.0	-
26.5996	14550	0.0	-
26.6910	14600	0.0	-
26.7824	14650	0.0	-
26.8739	14700	0.0	-
26.9653	14750	0.0	-
27.0567	14800	0.0	-
27.1481	14850	0.0	-
27.2395	14900	0.0	-
27.3309	14950	0.0	-
27.4223	15000	0.0	-
27.5137	15050	0.0	-
27.6051	15100	0.0	-
27.6965	15150	0.0	-
27.7879	15200	0.0	-
27.8793	15250	0.0	-
27.9707	15300	0.0	-
28.0622	15350	0.0	-
28.1536	15400	0.0	-
28.2450	15450	0.0	-
28.3364	15500	0.0	-
28.4278	15550	0.0	-
28.5192	15600	0.0	-
28.6106	15650	0.0	-
28.7020	15700	0.0	-
28.7934	15750	0.0	-
28.8848	15800	0.0	-
28.9762	15850	0.0	-
29.0676	15900	0.0	-
29.1590	15950	0.0	-
29.2505	16000	0.0	-
29.3419	16050	0.0	-
29.4333	16100	0.0	-
29.5247	16150	0.0	-
29.6161	16200	0.0	-
29.7075	16250	0.0	-
29.7989	16300	0.0	-
29.8903	16350	0.0	-
29.9817	16400	0.0	-

Framework Versions

• Python: 3.10.12
• SetFit: 1.1.0
• Sentence Transformers: 3.3.1
• Transformers: 4.44.2
• PyTorch: 2.2.0a0+81ea7a4
• Datasets: 3.2.0
• Tokenizers: 0.19.1

Citation

BibTeX

@article{https://doi.org/10.48550/arxiv.2209.11055,
    doi = {10.48550/ARXIV.2209.11055},
    url = {https://arxiv.org/abs/2209.11055},
    author = {Tunstall, Lewis and Reimers, Nils and Jo, Unso Eun Seo and Bates, Luke and Korat, Daniel and Wasserblat, Moshe and Pereg, Oren},
    keywords = {Computation and Language (cs.CL), FOS: Computer and information sciences, FOS: Computer and information sciences},
    title = {Efficient Few-Shot Learning Without Prompts},
    publisher = {arXiv},
    year = {2022},
    copyright = {Creative Commons Attribution 4.0 International}
}