mini1013 commited on
Commit
3346412
1 Parent(s): 38e965a

Push model using huggingface_hub.

Browse files
1_Pooling/config.json ADDED
@@ -0,0 +1,10 @@
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "word_embedding_dimension": 768,
3
+ "pooling_mode_cls_token": false,
4
+ "pooling_mode_mean_tokens": true,
5
+ "pooling_mode_max_tokens": false,
6
+ "pooling_mode_mean_sqrt_len_tokens": false,
7
+ "pooling_mode_weightedmean_tokens": false,
8
+ "pooling_mode_lasttoken": false,
9
+ "include_prompt": true
10
+ }
README.md ADDED
@@ -0,0 +1,274 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ ---
2
+ base_model: mini1013/master_domain
3
+ library_name: setfit
4
+ metrics:
5
+ - metric
6
+ pipeline_tag: text-classification
7
+ tags:
8
+ - setfit
9
+ - sentence-transformers
10
+ - text-classification
11
+ - generated_from_setfit_trainer
12
+ widget:
13
+ - text: 테팔 매직핸즈 인덕션 블랙스톤 후라이팬 2종(24+28) 05-매트그레이3종(팬24+웍22+손잡이) (주)티피상사
14
+ - text: 놋담 방짜유기 유기 티스푼 10.유기 체리 사각 티스푼 (주)죽전도예
15
+ - text: 위케어 친환경 산화생분해 크린위생장갑 200매 천연일회용 비닐장갑 에이비컴퍼니
16
+ - text: 대형 주방 베이킹 반죽 도마 실리콘 향균 80x70 눈금자 09. 모란그린 플러스 도톰 50x70 사은품 경식시대
17
+ - text: 오리스타 우드 하비 41 우드 큐브1호1구 세트 주식회사 두현인터내셔널
18
+ inference: true
19
+ model-index:
20
+ - name: SetFit with mini1013/master_domain
21
+ results:
22
+ - task:
23
+ type: text-classification
24
+ name: Text Classification
25
+ dataset:
26
+ name: Unknown
27
+ type: unknown
28
+ split: test
29
+ metrics:
30
+ - type: metric
31
+ value: 0.5785953728183967
32
+ name: Metric
33
+ ---
34
+
35
+ # SetFit with mini1013/master_domain
36
+
37
+ This is a [SetFit](https://github.com/huggingface/setfit) model that can be used for Text Classification. This SetFit model uses [mini1013/master_domain](https://huggingface.co/mini1013/master_domain) as the Sentence Transformer embedding model. A [LogisticRegression](https://scikit-learn.org/stable/modules/generated/sklearn.linear_model.LogisticRegression.html) instance is used for classification.
38
+
39
+ The model has been trained using an efficient few-shot learning technique that involves:
40
+
41
+ 1. Fine-tuning a [Sentence Transformer](https://www.sbert.net) with contrastive learning.
42
+ 2. Training a classification head with features from the fine-tuned Sentence Transformer.
43
+
44
+ ## Model Details
45
+
46
+ ### Model Description
47
+ - **Model Type:** SetFit
48
+ - **Sentence Transformer body:** [mini1013/master_domain](https://huggingface.co/mini1013/master_domain)
49
+ - **Classification head:** a [LogisticRegression](https://scikit-learn.org/stable/modules/generated/sklearn.linear_model.LogisticRegression.html) instance
50
+ - **Maximum Sequence Length:** 512 tokens
51
+ - **Number of Classes:** 16 classes
52
+ <!-- - **Training Dataset:** [Unknown](https://huggingface.co/datasets/unknown) -->
53
+ <!-- - **Language:** Unknown -->
54
+ <!-- - **License:** Unknown -->
55
+
56
+ ### Model Sources
57
+
58
+ - **Repository:** [SetFit on GitHub](https://github.com/huggingface/setfit)
59
+ - **Paper:** [Efficient Few-Shot Learning Without Prompts](https://arxiv.org/abs/2209.11055)
60
+ - **Blogpost:** [SetFit: Efficient Few-Shot Learning Without Prompts](https://huggingface.co/blog/setfit)
61
+
62
+ ### Model Labels
63
+ | Label | Examples |
64
+ |:------|:---------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------|
65
+ | 1.0 | <ul><li>'1 + 1 국산 실리콘 에어프라이어용기 전자렌지용기 6.십자형 1+1 그레이(특대) 리빙스토리'</li><li>'키친아트 프리미엄 아티스트3종 세트 (18양수+16편수+24전골) 프리미엄 아티스트3종세트 라임안경'</li><li>'PN풍년 압력밥솥 AS 부품 고무패킹 PC-20C A. 고무패킹_A-VTG-01. 베르투 VTGPC-01 비슈마켓'</li></ul> |
66
+ | 15.0 | <ul><li>'HC 빗살 점보그릴양면팬 30cm 주식회사 나르샤'</li><li>'[갤러리아] 엑스클립스 바닥3중 실속 2종세트 (F28+W28) 한화갤러리아(주)'</li><li>'[도착보장] 컴플리트 티타늄 IH 계란말이 3종 세트 주식회사 에이치씨컴퍼니 (HC Company)'</li></ul> |
67
+ | 11.0 | <ul><li>'(이엔메디)스탠딩파우치 100장 한약파우치 한약봉지 봉투 한약팩 자연의선물 100장 이엔메디칼'</li><li>'(시시호시) 타원 가죽트레이 라지사이즈 Free_아쿠아민트 '</li><li>'셀룰로오스 행주 독일 스웨덴 주방행주 붉은튤립 21.공룡시대 티디인터내셔널'</li></ul> |
68
+ | 8.0 | <ul><li>'1200x800 엔틱 1도 직교자상 브라우니박스12'</li><li>'MLL614 순동 향도세트 훈향로 향로 가루향 S 비디마켓(bd Market)'</li><li>'방짜 수공예품제기 제사제기제기 IW5E8362 코리아샵'</li></ul> |
69
+ | 3.0 | <ul><li>'무공해 옹기명가 쌀독 긴항아리 소금단지 10kg 20kg 20kg 쌀독 옹기명가'</li><li>'농업용 저장 물탱크 사각 100L 대용량 농약 물통 탱크 말통 식수용 플라스틱 Q.60L3 꾸미다홈'</li><li>'액체 질소 탱크 10L 20L 30L 냉동 실험실 병원 보관 10리터 125mm 구경 구매가이드'</li></ul> |
70
+ | 5.0 | <ul><li>'vo/(그레이 2P)삶아쓰는 실리콘 와인마개 공기차단 다용도 병뚜껑 간편한 벤타상사'</li><li>'[OF511PN6]디아이 미니 디켄더 클리어 ONECOLOR/FREE sellerhub'</li><li>'쿠킹의정석 에그 수란만들기1개(랜덤) 메종드라라'</li></ul> |
71
+ | 7.0 | <ul><li>'선인장 화분 계량 스푼 숟가락 홀더 4색수저물결무늬화분크라프트지포장+가방 컴어라운드마켓'</li><li>'총알배송 크놉다이얼 햅 타이머 스탑워치 요가 요리 쿠킹 조리 선물용 가정용 업소용 대량주문 표준형 타이머 올어바웃헬스'</li><li>'[제이큐]한신 호스밴드-스테인레스 17Inch 430mm BOX20EA 월드와이드 쇼핑'</li></ul> |
72
+ | 13.0 | <ul><li>'[로얄포드] 시그니처 칼블럭 세트 5PCS (주)씨제이이엔엠'</li><li>'자석 칼걸이 소품걸이 거치대 행거 정리 50CM 수납선반 무타공 용품 프레임 50cm 알리몽드'</li><li>'양은 절구 210mm 318mm 업소용절구 절구방 업소용 특대260 주방119'</li></ul> |
73
+ | 4.0 | <ul><li>'도자기 종지 ver.1 간장 일본 초장 와사비 미니 소스 그릇 omg 109 선택 I_8) 루미-69 줄고양이 종지 주식회사 오메가키친'</li><li>'옳음 공기 (4color) 블랙 오픈주방'</li><li>'에디슨 성인용 교정 젓가락 왼손용 오른손용 에디슨 성인용 교정 젓가락 오른손용 주식회사 성현종합유통'</li></ul> |
74
+ | 12.0 | <ul><li>'타이거보온주전자 핸디저그 1600ml / PWO-A160 화이트 신세계몰'</li><li>'코카코 물주전자 5L 쭈비쭈비'</li><li>'주전자 1.5L 들통주전자 스텐 위드위너(e)'</li></ul> |
75
+ | 9.0 | <ul><li>'고운손 자동 세척기 쌀 예스딜'</li><li>'800도씨 스텐 뒤집개 스패치 스크래퍼 그리들 터너 우드 손잡이 스텐 뒤집개 주식회사 디자인앤라이프스토리'</li><li>'수동 스테인레스 압착기 프레스 착즙기 2L 스테인리스 스틸 대경'</li></ul> |
76
+ | 14.0 | <ul><li>'V60종이필터 01/02/03화이트 40매 2-6인용(VCF-03-40W) 하리오코리아주식회사'</li><li>'스타 플루티드 저그 900ml_2503442/로얄코펜하겐 롯데쇼핑(주)'</li><li>'칼리타 102필터 40p-화이트 주식회사 로프트샵'</li></ul> |
77
+ | 0.0 | <ul><li>'접이식 테이블 정사각 소(송목) G.TOP'</li><li>'책상 좌식 블루 스탠다드 4 접이식 D 공부 밥상 1인용 테이블 간이 미니 (SYSH)컴퍼니'</li><li>'접이식 거실 공부 테이블 미니 좌탁 접이식공부상 상품선택_테이블 라운드 포커스스토어'</li></ul> |
78
+ | 6.0 | <ul><li>'와인잔 큐빅 칵테일잔 투명 보석 내열유리 홈파티 선물 9) 물컵 1개(선물 상자 없음) 김헌수'</li><li>'테이크아웃컵 100개/아이스컵 투명일회용 플라스틱컵 일자투명빨대(7x210x500개)1개 바른유통'</li><li>'컨템포러리머그 HM형 0.36L 4p(BG) HME형 '</li></ul> |
79
+ | 10.0 | <ul><li>'상하로 움직이는 S T smart 창문형 주방 정리 식기 건조대 900 1200 선택01) 900 T-스마트[티타늄 컬러] 퀸넥스'</li><li>'이케아 RINNIG 린니그 패턴 행주 4개입 다크그레이 2) 이나마리아 행주 4P (블루/핑크) 주식회사 랩앤툴스'</li><li>'JBJ 코모드 2단 올스텐 식기건조대 주식회사 제이비제이'</li></ul> |
80
+ | 2.0 | <ul><li>'KNC 모도리 깔끔도마 리필교체형 2p 번트오렌지_크림화이트 그로쓰스토어'</li><li>'스텐 업소용 대형 도마 주방 살균 위생 베이킹 반죽판 큰 특대 업소 가정용 싱크대 상판 양면접힘_1.5_50x70 와이엘컴퍼니'</li><li>'[죠셉죠셉]폴리오도마라지그라파이트4종세트 / JJP60184 도마세트 (주)신세계사이먼 파주점'</li></ul> |
81
+
82
+ ## Evaluation
83
+
84
+ ### Metrics
85
+ | Label | Metric |
86
+ |:--------|:-------|
87
+ | **all** | 0.5786 |
88
+
89
+ ## Uses
90
+
91
+ ### Direct Use for Inference
92
+
93
+ First install the SetFit library:
94
+
95
+ ```bash
96
+ pip install setfit
97
+ ```
98
+
99
+ Then you can load this model and run inference.
100
+
101
+ ```python
102
+ from setfit import SetFitModel
103
+
104
+ # Download from the 🤗 Hub
105
+ model = SetFitModel.from_pretrained("mini1013/master_cate_lh25")
106
+ # Run inference
107
+ preds = model("놋담 방짜유기 유기 티스푼 10.유기 체리 사각 티스푼 (주)죽전도예")
108
+ ```
109
+
110
+ <!--
111
+ ### Downstream Use
112
+
113
+ *List how someone could finetune this model on their own dataset.*
114
+ -->
115
+
116
+ <!--
117
+ ### Out-of-Scope Use
118
+
119
+ *List how the model may foreseeably be misused and address what users ought not to do with the model.*
120
+ -->
121
+
122
+ <!--
123
+ ## Bias, Risks and Limitations
124
+
125
+ *What are the known or foreseeable issues stemming from this model? You could also flag here known failure cases or weaknesses of the model.*
126
+ -->
127
+
128
+ <!--
129
+ ### Recommendations
130
+
131
+ *What are recommendations with respect to the foreseeable issues? For example, filtering explicit content.*
132
+ -->
133
+
134
+ ## Training Details
135
+
136
+ ### Training Set Metrics
137
+ | Training set | Min | Median | Max |
138
+ |:-------------|:----|:-------|:----|
139
+ | Word count | 3 | 9.5687 | 22 |
140
+
141
+ | Label | Training Sample Count |
142
+ |:------|:----------------------|
143
+ | 0.0 | 50 |
144
+ | 1.0 | 50 |
145
+ | 2.0 | 50 |
146
+ | 3.0 | 50 |
147
+ | 4.0 | 50 |
148
+ | 5.0 | 50 |
149
+ | 6.0 | 50 |
150
+ | 7.0 | 50 |
151
+ | 8.0 | 50 |
152
+ | 9.0 | 50 |
153
+ | 10.0 | 50 |
154
+ | 11.0 | 50 |
155
+ | 12.0 | 50 |
156
+ | 13.0 | 50 |
157
+ | 14.0 | 50 |
158
+ | 15.0 | 50 |
159
+
160
+ ### Training Hyperparameters
161
+ - batch_size: (512, 512)
162
+ - num_epochs: (20, 20)
163
+ - max_steps: -1
164
+ - sampling_strategy: oversampling
165
+ - num_iterations: 40
166
+ - body_learning_rate: (2e-05, 2e-05)
167
+ - head_learning_rate: 2e-05
168
+ - loss: CosineSimilarityLoss
169
+ - distance_metric: cosine_distance
170
+ - margin: 0.25
171
+ - end_to_end: False
172
+ - use_amp: False
173
+ - warmup_proportion: 0.1
174
+ - seed: 42
175
+ - eval_max_steps: -1
176
+ - load_best_model_at_end: False
177
+
178
+ ### Training Results
179
+ | Epoch | Step | Training Loss | Validation Loss |
180
+ |:-----:|:----:|:-------------:|:---------------:|
181
+ | 0.008 | 1 | 0.4166 | - |
182
+ | 0.4 | 50 | 0.3979 | - |
183
+ | 0.8 | 100 | 0.2722 | - |
184
+ | 1.2 | 150 | 0.1862 | - |
185
+ | 1.6 | 200 | 0.1144 | - |
186
+ | 2.0 | 250 | 0.0921 | - |
187
+ | 2.4 | 300 | 0.0586 | - |
188
+ | 2.8 | 350 | 0.0429 | - |
189
+ | 3.2 | 400 | 0.0189 | - |
190
+ | 3.6 | 450 | 0.0096 | - |
191
+ | 4.0 | 500 | 0.0151 | - |
192
+ | 4.4 | 550 | 0.0146 | - |
193
+ | 4.8 | 600 | 0.0154 | - |
194
+ | 5.2 | 650 | 0.012 | - |
195
+ | 5.6 | 700 | 0.0145 | - |
196
+ | 6.0 | 750 | 0.0037 | - |
197
+ | 6.4 | 800 | 0.0064 | - |
198
+ | 6.8 | 850 | 0.001 | - |
199
+ | 7.2 | 900 | 0.0007 | - |
200
+ | 7.6 | 950 | 0.0004 | - |
201
+ | 8.0 | 1000 | 0.0002 | - |
202
+ | 8.4 | 1050 | 0.0002 | - |
203
+ | 8.8 | 1100 | 0.0002 | - |
204
+ | 9.2 | 1150 | 0.0002 | - |
205
+ | 9.6 | 1200 | 0.0002 | - |
206
+ | 10.0 | 1250 | 0.0002 | - |
207
+ | 10.4 | 1300 | 0.0001 | - |
208
+ | 10.8 | 1350 | 0.0001 | - |
209
+ | 11.2 | 1400 | 0.0001 | - |
210
+ | 11.6 | 1450 | 0.0001 | - |
211
+ | 12.0 | 1500 | 0.0001 | - |
212
+ | 12.4 | 1550 | 0.0001 | - |
213
+ | 12.8 | 1600 | 0.0001 | - |
214
+ | 13.2 | 1650 | 0.0001 | - |
215
+ | 13.6 | 1700 | 0.0001 | - |
216
+ | 14.0 | 1750 | 0.0001 | - |
217
+ | 14.4 | 1800 | 0.0001 | - |
218
+ | 14.8 | 1850 | 0.0001 | - |
219
+ | 15.2 | 1900 | 0.0001 | - |
220
+ | 15.6 | 1950 | 0.0001 | - |
221
+ | 16.0 | 2000 | 0.0001 | - |
222
+ | 16.4 | 2050 | 0.0001 | - |
223
+ | 16.8 | 2100 | 0.0001 | - |
224
+ | 17.2 | 2150 | 0.0001 | - |
225
+ | 17.6 | 2200 | 0.0001 | - |
226
+ | 18.0 | 2250 | 0.0001 | - |
227
+ | 18.4 | 2300 | 0.0001 | - |
228
+ | 18.8 | 2350 | 0.0001 | - |
229
+ | 19.2 | 2400 | 0.0001 | - |
230
+ | 19.6 | 2450 | 0.0001 | - |
231
+ | 20.0 | 2500 | 0.0001 | - |
232
+
233
+ ### Framework Versions
234
+ - Python: 3.10.12
235
+ - SetFit: 1.1.0.dev0
236
+ - Sentence Transformers: 3.1.1
237
+ - Transformers: 4.46.1
238
+ - PyTorch: 2.4.0+cu121
239
+ - Datasets: 2.20.0
240
+ - Tokenizers: 0.20.0
241
+
242
+ ## Citation
243
+
244
+ ### BibTeX
245
+ ```bibtex
246
+ @article{https://doi.org/10.48550/arxiv.2209.11055,
247
+ doi = {10.48550/ARXIV.2209.11055},
248
+ url = {https://arxiv.org/abs/2209.11055},
249
+ author = {Tunstall, Lewis and Reimers, Nils and Jo, Unso Eun Seo and Bates, Luke and Korat, Daniel and Wasserblat, Moshe and Pereg, Oren},
250
+ keywords = {Computation and Language (cs.CL), FOS: Computer and information sciences, FOS: Computer and information sciences},
251
+ title = {Efficient Few-Shot Learning Without Prompts},
252
+ publisher = {arXiv},
253
+ year = {2022},
254
+ copyright = {Creative Commons Attribution 4.0 International}
255
+ }
256
+ ```
257
+
258
+ <!--
259
+ ## Glossary
260
+
261
+ *Clearly define terms in order to be accessible across audiences.*
262
+ -->
263
+
264
+ <!--
265
+ ## Model Card Authors
266
+
267
+ *Lists the people who create the model card, providing recognition and accountability for the detailed work that goes into its construction.*
268
+ -->
269
+
270
+ <!--
271
+ ## Model Card Contact
272
+
273
+ *Provides a way for people who have updates to the Model Card, suggestions, or questions, to contact the Model Card authors.*
274
+ -->
config.json ADDED
@@ -0,0 +1,29 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "_name_or_path": "mini1013/master_item_lh",
3
+ "architectures": [
4
+ "RobertaModel"
5
+ ],
6
+ "attention_probs_dropout_prob": 0.1,
7
+ "bos_token_id": 0,
8
+ "classifier_dropout": null,
9
+ "eos_token_id": 2,
10
+ "gradient_checkpointing": false,
11
+ "hidden_act": "gelu",
12
+ "hidden_dropout_prob": 0.1,
13
+ "hidden_size": 768,
14
+ "initializer_range": 0.02,
15
+ "intermediate_size": 3072,
16
+ "layer_norm_eps": 1e-05,
17
+ "max_position_embeddings": 514,
18
+ "model_type": "roberta",
19
+ "num_attention_heads": 12,
20
+ "num_hidden_layers": 12,
21
+ "pad_token_id": 1,
22
+ "position_embedding_type": "absolute",
23
+ "tokenizer_class": "BertTokenizer",
24
+ "torch_dtype": "float32",
25
+ "transformers_version": "4.46.1",
26
+ "type_vocab_size": 1,
27
+ "use_cache": true,
28
+ "vocab_size": 32000
29
+ }
config_sentence_transformers.json ADDED
@@ -0,0 +1,10 @@
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "__version__": {
3
+ "sentence_transformers": "3.1.1",
4
+ "transformers": "4.46.1",
5
+ "pytorch": "2.4.0+cu121"
6
+ },
7
+ "prompts": {},
8
+ "default_prompt_name": null,
9
+ "similarity_fn_name": null
10
+ }
config_setfit.json ADDED
@@ -0,0 +1,4 @@
 
 
 
 
 
1
+ {
2
+ "normalize_embeddings": false,
3
+ "labels": null
4
+ }
model.safetensors ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:a24e18351c56035935f97fab44a9bb984ae0342cef3c2b54ab2378b1690c9f50
3
+ size 442494816
model_head.pkl ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:329dff9bb3fa41f078b660ef3d0d7a80a1dfc26a748260fd698d8deb2e7d99c4
3
+ size 99367
modules.json ADDED
@@ -0,0 +1,14 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ [
2
+ {
3
+ "idx": 0,
4
+ "name": "0",
5
+ "path": "",
6
+ "type": "sentence_transformers.models.Transformer"
7
+ },
8
+ {
9
+ "idx": 1,
10
+ "name": "1",
11
+ "path": "1_Pooling",
12
+ "type": "sentence_transformers.models.Pooling"
13
+ }
14
+ ]
sentence_bert_config.json ADDED
@@ -0,0 +1,4 @@
 
 
 
 
 
1
+ {
2
+ "max_seq_length": 512,
3
+ "do_lower_case": false
4
+ }
special_tokens_map.json ADDED
@@ -0,0 +1,51 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "bos_token": {
3
+ "content": "[CLS]",
4
+ "lstrip": false,
5
+ "normalized": false,
6
+ "rstrip": false,
7
+ "single_word": false
8
+ },
9
+ "cls_token": {
10
+ "content": "[CLS]",
11
+ "lstrip": false,
12
+ "normalized": false,
13
+ "rstrip": false,
14
+ "single_word": false
15
+ },
16
+ "eos_token": {
17
+ "content": "[SEP]",
18
+ "lstrip": false,
19
+ "normalized": false,
20
+ "rstrip": false,
21
+ "single_word": false
22
+ },
23
+ "mask_token": {
24
+ "content": "[MASK]",
25
+ "lstrip": false,
26
+ "normalized": false,
27
+ "rstrip": false,
28
+ "single_word": false
29
+ },
30
+ "pad_token": {
31
+ "content": "[PAD]",
32
+ "lstrip": false,
33
+ "normalized": false,
34
+ "rstrip": false,
35
+ "single_word": false
36
+ },
37
+ "sep_token": {
38
+ "content": "[SEP]",
39
+ "lstrip": false,
40
+ "normalized": false,
41
+ "rstrip": false,
42
+ "single_word": false
43
+ },
44
+ "unk_token": {
45
+ "content": "[UNK]",
46
+ "lstrip": false,
47
+ "normalized": false,
48
+ "rstrip": false,
49
+ "single_word": false
50
+ }
51
+ }
tokenizer.json ADDED
The diff for this file is too large to render. See raw diff
 
tokenizer_config.json ADDED
@@ -0,0 +1,66 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "added_tokens_decoder": {
3
+ "0": {
4
+ "content": "[CLS]",
5
+ "lstrip": false,
6
+ "normalized": false,
7
+ "rstrip": false,
8
+ "single_word": false,
9
+ "special": true
10
+ },
11
+ "1": {
12
+ "content": "[PAD]",
13
+ "lstrip": false,
14
+ "normalized": false,
15
+ "rstrip": false,
16
+ "single_word": false,
17
+ "special": true
18
+ },
19
+ "2": {
20
+ "content": "[SEP]",
21
+ "lstrip": false,
22
+ "normalized": false,
23
+ "rstrip": false,
24
+ "single_word": false,
25
+ "special": true
26
+ },
27
+ "3": {
28
+ "content": "[UNK]",
29
+ "lstrip": false,
30
+ "normalized": false,
31
+ "rstrip": false,
32
+ "single_word": false,
33
+ "special": true
34
+ },
35
+ "4": {
36
+ "content": "[MASK]",
37
+ "lstrip": false,
38
+ "normalized": false,
39
+ "rstrip": false,
40
+ "single_word": false,
41
+ "special": true
42
+ }
43
+ },
44
+ "bos_token": "[CLS]",
45
+ "clean_up_tokenization_spaces": false,
46
+ "cls_token": "[CLS]",
47
+ "do_basic_tokenize": true,
48
+ "do_lower_case": false,
49
+ "eos_token": "[SEP]",
50
+ "mask_token": "[MASK]",
51
+ "max_length": 512,
52
+ "model_max_length": 512,
53
+ "never_split": null,
54
+ "pad_to_multiple_of": null,
55
+ "pad_token": "[PAD]",
56
+ "pad_token_type_id": 0,
57
+ "padding_side": "right",
58
+ "sep_token": "[SEP]",
59
+ "stride": 0,
60
+ "strip_accents": null,
61
+ "tokenize_chinese_chars": true,
62
+ "tokenizer_class": "BertTokenizer",
63
+ "truncation_side": "right",
64
+ "truncation_strategy": "longest_first",
65
+ "unk_token": "[UNK]"
66
+ }
vocab.txt ADDED
The diff for this file is too large to render. See raw diff