SetFit with mini1013/master_domain

This is a SetFit model that can be used for Text Classification. This SetFit model uses mini1013/master_domain as the Sentence Transformer embedding model. A LogisticRegression instance is used for classification.

The model has been trained using an efficient few-shot learning technique that involves:

Fine-tuning a Sentence Transformer with contrastive learning.
Training a classification head with features from the fine-tuned Sentence Transformer.

Model Details

Model Description

Model Type: SetFit
Sentence Transformer body: mini1013/master_domain
Classification head: a LogisticRegression instance
Maximum Sequence Length: 512 tokens
Number of Classes: 13 classes

Model Sources

Repository: SetFit on GitHub
Paper: Efficient Few-Shot Learning Without Prompts
Blogpost: SetFit: Efficient Few-Shot Learning Without Prompts

Model Labels

Label	Examples
5.0	'폰타나 발사믹 드레싱 270ml 더착한유통' '벨레이 유기농 발사믹크림 250ml 발사믹소스 오크통숙성 와인식초 주식회사 감자스위트' '쥬세페 크레모니니 발사믹크림 500ml 발사믹 소스 화남F.C'
11.0	'오뚜기 토마토 케찹(1kg) 금성식품 주식회사' '하인즈 리듀스드 슈가 케찹 369g 외 5종 (노슈가 케찹 옐로우 머스타드 우스타 등) 2. 토마토케찹 342g (주)아이미에프에스' '오뚜기 할라피뇨케챂 280G 다이어트 샐러드 가정용 식당용 미진통상'
2.0	'오뚜기 참깨돈까스소스 470G 1개 버킷마켓' '미담채 옛날 돈가스 소스 1.9kg [업소용] 블레스(Bless)' '오뚜기 부어먹는돈까스소스 2kg 돈가스 오므라이스 소스 수제 옛날 맛 통카스 2.1kg 오쉐프 서해 돈까스소스 1.9kg(PET) (주)수인식자재'
6.0	'오뚜기 스테이크소스 2.1kg 오뚜기 스테이크소스 2.1kg (주) 식자재민족' '코스트코 A1 스테이크 소스 283g 스테이크소스 283g x 1 주식회사 로씨네' '오뚜기 스테이크 소스 470g 솔드컵'
0.0	'백설 프리미엄 굴소스 350g 1개 백설 프리미엄 굴소스 350g 2개 주식회사베이비또' '오뚜기 이금기 팬더 굴소스 스파우트팩 2kg 이금기 팬더 굴소스 스파우트팩 2kg (주) 식자재민족' 'CJ 제일제당 맛있는 우리집 백설 남해굴소스 500g 간단한 양념.레시피요리 레인보우'
4.0	'유기농 홀그레인 머스타드 겨자소스 200g 둘레푸드' '오뚜기 홀그레인 머스타드 소스 280g 1개 더진컴퍼니' '머스타드(모아하우스 623g) 더나인에스제이에프'
8.0	'폰타나 샐러드 소스 오리엔탈 드레싱 270g 이탈리안 드레싱 270g (주)두배로' '대상 청정원 오리엔탈 드레싱 325g 대상 청정원 참깨 흑임자 드레싱 300g 행복마켓' '오뚜기 오리엔탈어니언드레싱 소스 조미료 샐러드 다이어트 210G 1세트 청주그릇주방설비'
3.0	'오뚜기 담백한 소이마요 310g 주식회사 우창상사' '풀무원 리얼디핑 핫스파이시마요 310g 요리 레시피 반찬거리 비법소스 식사준비 규비에스오퍼레이션' '오뚜기 후레시 마요네즈 500g 에이치브이마켓'
10.0	'친수 베트남 오리지널 칠리소스 250g 친수 오리지널 핫 칠리소스(250g) 욤요미몰' '피코크 살사소스450g(마일드) (영등포점) 주식회사 에스에스지닷컴' '촐룰라 멕시코 핫소스 오리저널 150ml 멕시코 타코 요리 재료 (주)푸링'
1.0	'면사랑 멸치육수1.8L 프리미엄 밑국물 쌀국수, 찌개, 칼국수, 바지락, 멸치국물 바지락육수(유통기한:23년11월23일) (주)아이미에프에스' '청수식품우동다시 1.8L1개 주식회사 밀레' '청수 우동다시 1.8L / 국물 소스 육수 쯔유 가쓰오 참치액 일본식 간장 청수 우동다시 1.8L_1개 제이와이유통판매'
7.0	'헌트 엔젤라미아 스파게티소스 2.95kg 대용량 파스타소스 (주)동그랑' '대상 청정원 구운 마늘과 양파 토마토 스파게티소스 600g 소암들' '오뚜기 프레스코 미트 스파게티소스 600g 올템몰'
9.0	'기꼬만 쯔유 (혼쯔유 500m) 샤브샤브육수 메밀소바육수 일본우동다시 매크로온' '코스트코 미즈칸 쯔유 1.8L 3배 농축 미쯔칸 라이트 코스트' '아리아케-간사이우동쯔유 1.8L 3개 쿠팡'
12.0	'쏨땀 느억맘 태국 요리 피쉬 소스 욤요미몰' '홍콩 삼게표 비엣흐엉 피쉬 소스 682ml 1개 분짜소스 헬시네이처' '피쉬소스 느억맘 남플라 태국 액젓소스 700ml 세기푸드'

Evaluation

Metrics

Label	Metric
all	0.9093

Uses

Direct Use for Inference

First install the SetFit library:

pip install setfit

Then you can load this model and run inference.

from setfit import SetFitModel

# Download from the 🤗 Hub
model = SetFitModel.from_pretrained("mini1013/master_cate_fd10")
# Run inference
preds = model("파인트리 홀그레인 머스타드 850g  (주)우주식품디씨오피")

Training Details

Training Set Metrics

Training set	Min	Median	Max
Word count	3	8.5284	19

Label	Training Sample Count
0.0	50
1.0	50
2.0	50
3.0	50
4.0	50
5.0	50
6.0	50
7.0	50
8.0	50
9.0	16
10.0	50
11.0	50
12.0	15

Training Hyperparameters

batch_size: (512, 512)
num_epochs: (20, 20)
max_steps: -1
sampling_strategy: oversampling
num_iterations: 40
body_learning_rate: (2e-05, 2e-05)
head_learning_rate: 2e-05
loss: CosineSimilarityLoss
distance_metric: cosine_distance
margin: 0.25
end_to_end: False
use_amp: False
warmup_proportion: 0.1
seed: 42
eval_max_steps: -1
load_best_model_at_end: False

Training Results

Epoch	Step	Training Loss	Validation Loss
0.0110	1	0.4378	-
0.5495	50	0.381	-
1.0989	100	0.1591	-
1.6484	150	0.0501	-
2.1978	200	0.0362	-
2.7473	250	0.0292	-
3.2967	300	0.0296	-
3.8462	350	0.0276	-
4.3956	400	0.0177	-
4.9451	450	0.007	-
5.4945	500	0.014	-
6.0440	550	0.0012	-
6.5934	600	0.0001	-
7.1429	650	0.0001	-
7.6923	700	0.0001	-
8.2418	750	0.0001	-
8.7912	800	0.0001	-
9.3407	850	0.0001	-
9.8901	900	0.0001	-
10.4396	950	0.0001	-
10.9890	1000	0.0001	-
11.5385	1050	0.0001	-
12.0879	1100	0.0001	-
12.6374	1150	0.0001	-
13.1868	1200	0.0001	-
13.7363	1250	0.0001	-
14.2857	1300	0.0001	-
14.8352	1350	0.0	-
15.3846	1400	0.0001	-
15.9341	1450	0.0001	-
16.4835	1500	0.0001	-
17.0330	1550	0.0001	-
17.5824	1600	0.0	-
18.1319	1650	0.0	-
18.6813	1700	0.0	-
19.2308	1750	0.0	-
19.7802	1800	0.0001	-

Framework Versions

Python: 3.10.12
SetFit: 1.1.0.dev0
Sentence Transformers: 3.1.1
Transformers: 4.46.1
PyTorch: 2.4.0+cu121
Datasets: 2.20.0
Tokenizers: 0.20.0

Citation

BibTeX

@article{https://doi.org/10.48550/arxiv.2209.11055,
    doi = {10.48550/ARXIV.2209.11055},
    url = {https://arxiv.org/abs/2209.11055},
    author = {Tunstall, Lewis and Reimers, Nils and Jo, Unso Eun Seo and Bates, Luke and Korat, Daniel and Wasserblat, Moshe and Pereg, Oren},
    keywords = {Computation and Language (cs.CL), FOS: Computer and information sciences, FOS: Computer and information sciences},
    title = {Efficient Few-Shot Learning Without Prompts},
    publisher = {arXiv},
    year = {2022},
    copyright = {Creative Commons Attribution 4.0 International}
}

mini1013
/

master_cate_fd10