File size: 17,238 Bytes
5ce8fd3 |
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87 88 89 90 91 92 93 94 95 96 97 98 99 100 101 102 103 104 105 106 107 108 109 110 111 112 113 114 115 116 117 118 119 120 121 122 123 124 125 126 127 128 129 130 131 132 133 134 135 136 137 138 139 140 141 142 143 144 145 146 147 148 149 150 151 152 153 154 155 156 157 158 159 160 161 162 163 164 165 166 167 168 169 170 171 172 173 174 175 176 177 178 179 180 181 182 183 184 185 186 187 188 189 190 191 192 193 194 195 196 197 198 199 200 201 202 203 204 205 206 207 208 209 210 211 212 213 214 215 216 217 218 219 220 221 222 223 224 225 226 227 228 229 230 231 232 233 234 235 236 237 238 239 240 241 242 243 244 245 246 247 248 249 250 251 252 253 254 255 256 257 258 259 260 261 262 263 264 265 266 267 268 269 270 271 |
---
base_model: mini1013/master_domain
library_name: setfit
metrics:
- metric
pipeline_tag: text-classification
tags:
- setfit
- sentence-transformers
- text-classification
- generated_from_setfit_trainer
widget:
- text: glowjin 차량용커피포트 주전자 가열 휴대용 여행 무광 블랙(12v24v 차량용) 업그레이드USB 무광블랙(12v24v 차량용)
글로우진(glowjin)
- text: 카프트 디자인 코일매트 카매트 자동차 발 매트 전차종 베이지 톰B 라인 1열 브라운_M라인_트렁크매트 안녕하십니카
- text: 아임반 자동차 사각 허깅 쿠션 차량용 다용도 허그 쿠션 피칸브라운 주식회사 아임반
- text: 초보운전 스티커 자석 탈부착 고휘도 반사 초보운전 가로사각 M 미디엄 01 스마일 [임산부가타고있어요]_정사각_02.임산부가 운전해요-핑크
퍼즈
- text: 겨울철 환절기 건조 차량용가습기 독일 차량 탑재 가습 01 1_10 플러그인 모델 라벤더 아로마테 플러스라인
inference: true
model-index:
- name: SetFit with mini1013/master_domain
results:
- task:
type: text-classification
name: Text Classification
dataset:
name: Unknown
type: unknown
split: test
metrics:
- type: metric
value: 0.56449056059951
name: Metric
---
# SetFit with mini1013/master_domain
This is a [SetFit](https://github.com/huggingface/setfit) model that can be used for Text Classification. This SetFit model uses [mini1013/master_domain](https://huggingface.co/mini1013/master_domain) as the Sentence Transformer embedding model. A [LogisticRegression](https://scikit-learn.org/stable/modules/generated/sklearn.linear_model.LogisticRegression.html) instance is used for classification.
The model has been trained using an efficient few-shot learning technique that involves:
1. Fine-tuning a [Sentence Transformer](https://www.sbert.net) with contrastive learning.
2. Training a classification head with features from the fine-tuned Sentence Transformer.
## Model Details
### Model Description
- **Model Type:** SetFit
- **Sentence Transformer body:** [mini1013/master_domain](https://huggingface.co/mini1013/master_domain)
- **Classification head:** a [LogisticRegression](https://scikit-learn.org/stable/modules/generated/sklearn.linear_model.LogisticRegression.html) instance
- **Maximum Sequence Length:** 512 tokens
- **Number of Classes:** 15 classes
<!-- - **Training Dataset:** [Unknown](https://huggingface.co/datasets/unknown) -->
<!-- - **Language:** Unknown -->
<!-- - **License:** Unknown -->
### Model Sources
- **Repository:** [SetFit on GitHub](https://github.com/huggingface/setfit)
- **Paper:** [Efficient Few-Shot Learning Without Prompts](https://arxiv.org/abs/2209.11055)
- **Blogpost:** [SetFit: Efficient Few-Shot Learning Without Prompts](https://huggingface.co/blog/setfit)
### Model Labels
| Label | Examples |
|:------|:---------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------|
| 0.0 | <ul><li>'5파이 발광다이오드 고휘도LED 5파이 화이트 와이어용 3V 5파이 화이트 올파츠'</li><li>'5파이 발광다이오드 고휘도LED 5파이 화이트 와이어용 3V 5파이 옐로우 올파츠'</li><li>'3M PPF 보호필름 블루/레드 무황변 자가복원 61cmX10cm 3M PPF필름-블루 30cm x 10cm 케미칼멘토'</li></ul> |
| 8.0 | <ul><li>'[메이튼] 차량용 목쿠션 목베개 목받침 헤드레스트 메모리폼 프리미엄 메모리폼 목쿠션 블랙 1P 우파몰'</li><li>'테슬라 모델X S 3 Y 전기 마사지 허리 쿠션 USB 포트 요추 진동 기계 경추 머리받침 진동 마사지 타입 - 연두색머리베개+허리등 라인써클'</li><li>'1+1 핫딜 M4U 맘스포유 패브릭 유모차 안전벨트+안전바 커버 M(18.5x21cm) 곰이_토니 이케이원'</li></ul> |
| 4.0 | <ul><li>'핏테라 불고 빨고 365 무선 차량용 청소기 강력 에어건 흡입력 디이브'</li><li>'[불스원] 레인OK 유막제거 이지그립+발수코팅 이지그립 SET (주)불스원'</li><li>'더클래스 안티포그 김서림방지제 100ml 주식회사 엔공구'</li></ul> |
| 11.0 | <ul><li>'전국장착가능 245 50 20 펠리세이드 미쉐린 프라이머시 투어 AS 2455020_미쉐린 프라이머시 투어 AS_티스테이션 홈플러스송도점 방문 장착 티앤에이 주식회사'</li><li>'피렐리 뉴PZ4 255/35R20 , 2553520 PZERO PZ4 NCS VOL 여름용 아트휠'</li><li>'Xmomx 범용 가죽 핸들 커버 38.1cm(15인치) 통기성 자동 커버409028 Beige 피치상사'</li></ul> |
| 13.0 | <ul><li>'대용량 USB 침실 2L 거실 3구 가습기 무드등 저소음 해피함피'</li><li>'2L USB 가습기 저소음 거실 3구 대용량 무드등 침실 스마일쓰리'</li><li>'r600a 냉매 프레온 셀프 자동차 충전 에어컨 인버터 냉장고 R600A 5kg 작은매력소'</li></ul> |
| 10.0 | <ul><li>'차키케이스 TPU키케이스 커버 자동차 키링 기아3 기아_기아10_실버라인_스카이블루 유니버스 파라'</li><li>'잇츠 자동차 진공 청소기 독일제 휴대용 무선 미니 핸디 A3 15000PA 1. 화이트 20000pa 2. 블랙 20000pa 잇츠컴퍼니'</li><li>'[카버샵 더컵 더컵박스] 자동차 디지털 스마트키 스마트폰 핸드폰 차키 오토도어 현대_A 더컵박스_지프_B 주식회사 카버샵'</li></ul> |
| 12.0 | <ul><li>'그랜져TG 3.3 373003C120 373003C125 알터네이터 재생 발전기 회수불가 오토풀리 타입 (택배착불) 파츠원'</li><li>'K&N 99-5000 99-5050 에어필터 크리너 크리닝 키트 세척 및 오일링 단품:99-0606 파워크린 일도산업주식회사'</li><li>'로드 전기 번호키 자전거 자물쇠 로드자전거자물쇠 아리기획'</li></ul> |
| 1.0 | <ul><li>'불스원 그라스 디퓨저 블랙베리&체리 105ml 그린팩토리'</li><li>'벨르아망 차량용방향제 리필키트 에어도넛 차량용방향제 블랙체리(향강도5) (주)디에스엔티'</li><li>'벤볼릭 명품 차량용 방향제 송풍구 차량 석고 고급 자동차 클린코튼 실버1세트 블랙＋실버 （50%할인）_블랙체리_헤스페리데스 벤볼릭'</li></ul> |
| 3.0 | <ul><li>'쏠라이트 자동차배터리 CMF40L 차량용 공구대여 올뉴모닝배터리 교체 반납 델코 (DF/DIN)_DF60L_②공구대여안함+폐전지반납 대성 밧데리'</li><li>'델코 DF90L 반납조건 공구대여 |DF90L DF90L-택배_(★)공구대여+수거예약+폐전지수거_90ah-반납조건-(★)발송3일후예약 주식회사 파워테크'</li><li>'델코 AGM60(LN2) 배터리반납조건 공구대여 직영장착 택배|LN2 LN2(AGM60)-택배_(★)공구대여+수거예약+폐전지수거_60ah-반납조건-(★)발송3일후예약 주식회사 파워테크'</li></ul> |
| 14.0 | <ul><li>'케이엠모터스 충잘 무선충전 거치대 충잘ver.3 무선충전 거치대(패키지형)_LED화이트+사은품 3종+3.0고속충전기 (주)케이지트러스트'</li><li>'전기 자전거용 납산 배터리 충전기 스쿠터 휠체어 GX16 커넥터 36V 2A 41.4V UK 원템하우스'</li><li>'아이엠듀 차량용 핸드폰 거치대 무중력 중력 거치대 호환 차량용 무중력 핸드폰 거치대+숏크래들 아이킨'</li></ul> |
| 7.0 | <ul><li>'Rhino-Rack 어댑터 브래킷 파이오니어 크로스바 코뿔소 공병 삽 브래킷 위즈덤홀릭'</li><li>'블랙(BK-01) 네오가드 싱글패키지 (4도어 1대분) 블랙(BK-01) (주)가디언'</li><li>'하마몰/ 비발디 더블룸 다기세트 (주)하마토라인터내셔널'</li></ul> |
| 9.0 | <ul><li>'코일 어셈블리－이그니션 2730123900 주식회사 송암씨앤씨'</li><li>'Powstation-20/60/80 cm 자동차 타이어 공기 주입 호스, 수축 핸드 에어 펌프 연장 튜브 어댑터 01 Not deflate 즐거운유하'</li><li>'망치 야크 (Tsuchiya Yac) 차내 용품 커튼 러너 후소 2 15 개들이 CV-203 03 의자 용 영원테크'</li></ul> |
| 2.0 | <ul><li>'면발광LED COBLED바 스트립 플렉시블 줄조명 5M롤 AW B(5V COB LED)_B(블루) 마니LED'</li><li>'면발광LED COBLED바 스트립 플렉시블 줄조명 5M롤 AW A(12V COB LED)_RGB 마니LED'</li><li>'[튜닝인증]합법 크리스탈 LED S25 방향지시등 후진등 정지등 레드_SUPER RED(정지등)_BA15S(인증) 주식회사 엔바이어스'</li></ul> |
| 5.0 | <ul><li>'블랙슈트 자동차재떨이 재털이 블랙 건강랩'</li><li>'메이튼 토레스 용품 70도 트렁크 히든 정리함 A타입 70도 히든 트렁크 정리함 A타입 (주)메이튼'</li><li>'와인 프레스티지 재떨이 차량용재떨이 주식회사 퍼스트에스'</li></ul> |
| 6.0 | <ul><li>'토탈 플루이드 매틱 LV MV 20L 오토미션오일 베스트 SHOP'</li><li>'탕게 폴리탱크 블랙 등유통 캠핑 기름통 10L_어스 그레이 포스트욘'</li><li>'SK엔무브 지크 X10 0W-20 1L (ZIC X10) (주)플레이그라운드코리아'</li></ul> |
## Evaluation
### Metrics
| Label | Metric |
|:--------|:-------|
| **all** | 0.5645 |
## Uses
### Direct Use for Inference
First install the SetFit library:
```bash
pip install setfit
```
Then you can load this model and run inference.
```python
from setfit import SetFitModel
# Download from the 🤗 Hub
model = SetFitModel.from_pretrained("mini1013/master_cate_lh20")
# Run inference
preds = model("아임반 자동차 사각 허깅 쿠션 차량용 다용도 허그 쿠션 피칸브라운 주식회사 아임반")
```
<!--
### Downstream Use
*List how someone could finetune this model on their own dataset.*
-->
<!--
### Out-of-Scope Use
*List how the model may foreseeably be misused and address what users ought not to do with the model.*
-->
<!--
## Bias, Risks and Limitations
*What are the known or foreseeable issues stemming from this model? You could also flag here known failure cases or weaknesses of the model.*
-->
<!--
### Recommendations
*What are recommendations with respect to the foreseeable issues? For example, filtering explicit content.*
-->
## Training Details
### Training Set Metrics
| Training set | Min | Median | Max |
|:-------------|:----|:-------|:----|
| Word count | 3 | 11.108 | 30 |
| Label | Training Sample Count |
|:------|:----------------------|
| 0.0 | 50 |
| 1.0 | 50 |
| 2.0 | 50 |
| 3.0 | 50 |
| 4.0 | 50 |
| 5.0 | 50 |
| 6.0 | 50 |
| 7.0 | 50 |
| 8.0 | 50 |
| 9.0 | 50 |
| 10.0 | 50 |
| 11.0 | 50 |
| 12.0 | 50 |
| 13.0 | 50 |
| 14.0 | 50 |
### Training Hyperparameters
- batch_size: (512, 512)
- num_epochs: (20, 20)
- max_steps: -1
- sampling_strategy: oversampling
- num_iterations: 40
- body_learning_rate: (2e-05, 2e-05)
- head_learning_rate: 2e-05
- loss: CosineSimilarityLoss
- distance_metric: cosine_distance
- margin: 0.25
- end_to_end: False
- use_amp: False
- warmup_proportion: 0.1
- seed: 42
- eval_max_steps: -1
- load_best_model_at_end: False
### Training Results
| Epoch | Step | Training Loss | Validation Loss |
|:-------:|:----:|:-------------:|:---------------:|
| 0.0085 | 1 | 0.3868 | - |
| 0.4237 | 50 | 0.3164 | - |
| 0.8475 | 100 | 0.2453 | - |
| 1.2712 | 150 | 0.1471 | - |
| 1.6949 | 200 | 0.0782 | - |
| 2.1186 | 250 | 0.0675 | - |
| 2.5424 | 300 | 0.0429 | - |
| 2.9661 | 350 | 0.0257 | - |
| 3.3898 | 400 | 0.019 | - |
| 3.8136 | 450 | 0.0175 | - |
| 4.2373 | 500 | 0.0275 | - |
| 4.6610 | 550 | 0.0118 | - |
| 5.0847 | 600 | 0.0068 | - |
| 5.5085 | 650 | 0.0046 | - |
| 5.9322 | 700 | 0.0067 | - |
| 6.3559 | 750 | 0.0041 | - |
| 6.7797 | 800 | 0.0044 | - |
| 7.2034 | 850 | 0.0025 | - |
| 7.6271 | 900 | 0.0004 | - |
| 8.0508 | 950 | 0.0002 | - |
| 8.4746 | 1000 | 0.0001 | - |
| 8.8983 | 1050 | 0.0002 | - |
| 9.3220 | 1100 | 0.0001 | - |
| 9.7458 | 1150 | 0.0001 | - |
| 10.1695 | 1200 | 0.0001 | - |
| 10.5932 | 1250 | 0.0001 | - |
| 11.0169 | 1300 | 0.0001 | - |
| 11.4407 | 1350 | 0.0001 | - |
| 11.8644 | 1400 | 0.0001 | - |
| 12.2881 | 1450 | 0.0001 | - |
| 12.7119 | 1500 | 0.0001 | - |
| 13.1356 | 1550 | 0.0001 | - |
| 13.5593 | 1600 | 0.0001 | - |
| 13.9831 | 1650 | 0.0001 | - |
| 14.4068 | 1700 | 0.0001 | - |
| 14.8305 | 1750 | 0.0001 | - |
| 15.2542 | 1800 | 0.0001 | - |
| 15.6780 | 1850 | 0.0001 | - |
| 16.1017 | 1900 | 0.0001 | - |
| 16.5254 | 1950 | 0.0001 | - |
| 16.9492 | 2000 | 0.0001 | - |
| 17.3729 | 2050 | 0.0001 | - |
| 17.7966 | 2100 | 0.0001 | - |
| 18.2203 | 2150 | 0.0001 | - |
| 18.6441 | 2200 | 0.0 | - |
| 19.0678 | 2250 | 0.0 | - |
| 19.4915 | 2300 | 0.0001 | - |
| 19.9153 | 2350 | 0.0001 | - |
### Framework Versions
- Python: 3.10.12
- SetFit: 1.1.0.dev0
- Sentence Transformers: 3.1.1
- Transformers: 4.46.1
- PyTorch: 2.4.0+cu121
- Datasets: 2.20.0
- Tokenizers: 0.20.0
## Citation
### BibTeX
```bibtex
@article{https://doi.org/10.48550/arxiv.2209.11055,
doi = {10.48550/ARXIV.2209.11055},
url = {https://arxiv.org/abs/2209.11055},
author = {Tunstall, Lewis and Reimers, Nils and Jo, Unso Eun Seo and Bates, Luke and Korat, Daniel and Wasserblat, Moshe and Pereg, Oren},
keywords = {Computation and Language (cs.CL), FOS: Computer and information sciences, FOS: Computer and information sciences},
title = {Efficient Few-Shot Learning Without Prompts},
publisher = {arXiv},
year = {2022},
copyright = {Creative Commons Attribution 4.0 International}
}
```
<!--
## Glossary
*Clearly define terms in order to be accessible across audiences.*
-->
<!--
## Model Card Authors
*Lists the people who create the model card, providing recognition and accountability for the detailed work that goes into its construction.*
-->
<!--
## Model Card Contact
*Provides a way for people who have updates to the Model Card, suggestions, or questions, to contact the Model Card authors.*
--> |