File size: 30,396 Bytes
4768a66 ae451b1 4768a66 ae451b1 4768a66 ba2a577 4768a66 ba2a577 ae451b1 4768a66 ba2a577 ae451b1 4768a66 ba2a577 4768a66 ba2a577 4768a66 ba2a577 4768a66 ba2a577 4768a66 ba2a577 4768a66 ba2a577 4768a66 ba2a577 4768a66 ba2a577 4768a66 ba2a577 4768a66 ba2a577 4768a66 ba2a577 4768a66 ba2a577 4768a66 ba2a577 4768a66 ba2a577 4768a66 ba2a577 4768a66 ba2a577 4768a66 ae451b1 ba2a577 4768a66 ae451b1 ba2a577 4768a66 ae451b1 4768a66 ba2a577 4768a66 ba2a577 4768a66 d157d41 4768a66 ba2a577 4768a66 d157d41 4768a66 ba2a577 4768a66 ae451b1 ba2a577 4768a66 |
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87 88 89 90 91 92 93 94 95 96 97 98 99 100 101 102 103 104 105 106 107 108 109 110 111 112 113 114 115 116 117 118 119 120 121 122 123 124 125 126 127 128 129 130 131 132 133 134 135 136 137 138 139 140 141 142 143 144 145 146 147 148 149 150 151 152 153 154 155 156 157 158 159 160 161 162 163 164 165 166 167 168 169 170 171 172 173 174 175 176 177 178 179 180 181 182 183 184 185 186 187 188 189 190 191 192 193 194 195 196 197 198 199 200 201 202 203 204 205 206 207 208 209 210 211 212 213 214 215 216 217 218 219 220 221 222 223 224 225 226 227 228 229 230 231 232 233 234 235 236 237 238 239 240 241 242 243 244 245 246 247 248 249 250 251 252 253 254 255 256 257 258 259 260 261 262 263 264 265 266 267 268 269 270 271 272 273 274 275 276 277 278 279 280 281 282 283 284 285 286 287 288 289 290 291 292 293 294 295 296 297 298 299 300 301 302 303 304 305 306 307 308 309 310 311 312 313 314 315 316 317 318 319 320 321 322 323 324 325 326 327 328 329 330 331 332 333 334 335 336 337 338 339 340 341 342 343 344 345 346 347 348 349 350 351 352 353 354 355 356 357 358 359 360 361 362 363 364 365 366 367 368 369 370 371 372 373 374 375 376 377 378 379 380 381 382 383 384 385 386 387 388 389 390 391 392 393 394 395 396 397 398 399 400 401 402 403 404 405 406 407 408 409 410 411 412 413 414 415 416 417 418 419 420 421 422 423 424 425 426 427 428 429 430 431 432 433 434 435 436 437 438 439 440 441 442 443 444 445 446 447 448 449 450 451 452 453 454 455 456 457 458 459 460 461 462 463 464 465 466 467 468 469 470 471 472 473 474 475 |
---
base_model: intfloat/multilingual-e5-small
datasets: []
language: []
library_name: sentence-transformers
metrics:
- cosine_accuracy@1
- cosine_accuracy@3
- cosine_accuracy@5
- cosine_accuracy@10
- cosine_precision@1
- cosine_precision@3
- cosine_precision@5
- cosine_precision@10
- cosine_recall@1
- cosine_recall@3
- cosine_recall@5
- cosine_recall@10
- cosine_ndcg@10
- cosine_mrr@10
- cosine_map@100
pipeline_tag: sentence-similarity
tags:
- sentence-transformers
- sentence-similarity
- feature-extraction
- generated_from_trainer
- dataset_size:14690
- loss:MultipleNegativesRankingLoss
widget:
- source_sentence: 国民健康保険の適用終了の届出を行ってください。(勤務先の保険等に加入したことにより、自動的に国民健康保険の資格の適用が終了することはありません。)【届出窓口】お住まいの区の区役所保険年金業務担当へ届け出てください。【届出人】イ．国民健康保険証の世帯主欄に記載されている世帯主ロ．代理人(世帯主からの委任状と代理人の本人確認書類要)【必要なもの】届出には、世帯主と対象者の個人番号（マイナンバー）の記入と提示が必要になります。届出の際は、個人番号の確認できるもの（マイナンバーカードなど）、本人確認できるもの（運転免許証など）及び、次のものをお持ちください。●保険証●会社などの新しい保険証（健康保険資格取得証明書でも可）△詳細はリンク先の『就職・退職に伴う国民健康保険の手続き』を参照してください。【問合せ先】◆お住まいの区の区役所保険年金業務担当電話、Fax等はリンク先の『区役所・保健福祉センター開設時間・所在地・電話番号』を参照してください。
sentences:
- 今まで国民健康保険でしたが、職場の健康保険をもらいました。国民健康保険の手続きは必要ですか？
- Q.法人の営業証明を発行してほしいのですが？【ID:0100147】
- 環境管理実施事業所について教えてください。
- source_sentence: ■「入場券」を紛失してしまった方は、当日会場にて受け付けしていただければ、入場できます。■再送は、しておりません。【生涯学習課】（直通）０７６１－２４－８１２８（内線）３６５４
sentences:
- 成人式の「入場券」を紛失したのですが（Ａ）
- 身体障害者手帳を破損してしまったり，なくしてしまったら。
- 質問：2217建築開発審査課の場所を教えてください
- source_sentence: 税金を納期限までに納めないときにかかります。納期限の翌日から延滞金の計算が開始されます。税額（1,000円未満切捨）に納付までの日数と利率を掛け合わせて、100円未満を切り捨てて算出します。結果が1,000円未満の場合は0円となります。利率は毎年変動していますので、詳しくは県税事務所にお問い合わせください。
sentences:
- 性的マイノリティ（LGBTQなど）の居場所づくりについて教えてください。
- 県税の延滞金について知りたい。
- 高知県立図書館の所在地･電話番号を教えてください。
- source_sentence: ふれあいプラザは、市民の福祉と交流の場の提供を目的とした施設で、ホールや会議室、福祉関係団体の事務所などがあります。また、ホールなどの貸館業務は指定管理者制度を導入し、現在は大津市社会福祉事業団が行っています。■ふれあいプラザ【貸室予約先】ふれあいプラザ電話番号：077-527-8351【担当課】福祉部
福祉政策課〒520-8575 市役所本館2階
sentences:
- 下水の工事に伴う家屋調査についてお聞きしたいのですが？
- ふれあいプラザとはどのような施設ですか？
- 同じ区内で転居（引越し）するときの手続方法を知りたい 【転入・転出届・引越し】
- source_sentence: 【貸出施設】ホール（定員３００人）第１会議室（定員２４人）第２会議室（定員３０人）和室（１）（定員３５人）和室（２）（定員１５人）音楽室（定員３０人）保育室として、和室（２）をご利用いただけます。【附帯設備】■ホールグランドピアノ、音響設備、マイク（有線・コードレス・ピンマイク）、反響板、照明設備、卓球台■第１会議室プロジェクター投影用スクリーン■第２会議室プロジェクター投影用スクリーン、調理器具、電子レンジ調理室としても利用できます。■音楽室アップライトピアノ■その他ラジカセ、プロジェクター、移動式マイクセット【設備】■コピー機コイン式コピー機を1階警備員室前に設置してあります。利用時間は午前８時００分～午後１０時までです。用紙のサイズはＢ５、Ａ４、Ｂ４、Ａ３で、１枚１０円です。■軽印刷機地域の活動やサークル活動のための資料の印刷に利用できます。Ａ３サイズまで印刷できます。利用時間は休館日を除く、午前９時から午後９時までです。利用料金はマスター代が原稿1枚につき１００円、インク代が印刷片面１０００枚以上ごとに１００円です。印刷用紙は利用者の持ち込みとなります。利用の際は、１階警備員室で利用のお手続きが必要です。■スピード写真撮影機証明書用スピード写真撮影機を正面玄関の手前に設置してあります。撮影料金は７００円です。■その他みんなのトイレ（１階、２階）、授乳室（１階）、冷水機（１階）【関連リンク】南市民センター・施設案内（施設貸出、施設使用料金等について）https://www.city.machida.tokyo.jp/kurashi/touroku/shisetsu/03/sisetuannai.html【お問合せ先】南市民センターTEL：042-795-3165FAX：042-795-1749担当課詳細：https://www.city.machida.tokyo.jp/kurashi/touroku/shisetsu/03/accessmap.html
sentences:
- 質問：3490南市民センターにはどんな施設・設備がありますか。
- 質問：2139児童発達支援について知りたい
- 子育て広場のネットワーカーに申込（登録）したいのですが、どうしたらよいのでしょうか？
model-index:
- name: SentenceTransformer based on intfloat/multilingual-e5-small
results:
- task:
type: information-retrieval
name: Information Retrieval
dataset:
name: intfloat/multilingual e5 small
type: intfloat/multilingual-e5-small
metrics:
- type: cosine_accuracy@1
value: 0.5161992921317724
name: Cosine Accuracy@1
- type: cosine_accuracy@3
value: 0.7037843724475905
name: Cosine Accuracy@3
- type: cosine_accuracy@5
value: 0.7748434522188946
name: Cosine Accuracy@5
- type: cosine_accuracy@10
value: 0.8453580179689627
name: Cosine Accuracy@10
- type: cosine_precision@1
value: 0.5161992921317724
name: Cosine Precision@1
- type: cosine_precision@3
value: 0.23459479081586354
name: Cosine Precision@3
- type: cosine_precision@5
value: 0.15496869044377895
name: Cosine Precision@5
- type: cosine_precision@10
value: 0.08453580179689626
name: Cosine Precision@10
- type: cosine_recall@1
value: 0.5161992921317724
name: Cosine Recall@1
- type: cosine_recall@3
value: 0.7037843724475905
name: Cosine Recall@3
- type: cosine_recall@5
value: 0.7748434522188946
name: Cosine Recall@5
- type: cosine_recall@10
value: 0.8453580179689627
name: Cosine Recall@10
- type: cosine_ndcg@10
value: 0.6777798536519704
name: Cosine Ndcg@10
- type: cosine_mrr@10
value: 0.6243074732388638
name: Cosine Mrr@10
- type: cosine_map@100
value: 0.6300864918428093
name: Cosine Map@100
---
# SentenceTransformer based on intfloat/multilingual-e5-small
This is a [sentence-transformers](https://www.SBERT.net) model finetuned from [intfloat/multilingual-e5-small](https://huggingface.co/intfloat/multilingual-e5-small). It maps sentences & paragraphs to a 384-dimensional dense vector space and can be used for semantic textual similarity, semantic search, paraphrase mining, text classification, clustering, and more.
## Model Details
### Model Description
- **Model Type:** Sentence Transformer
- **Base model:** [intfloat/multilingual-e5-small](https://huggingface.co/intfloat/multilingual-e5-small) <!-- at revision fd1525a9fd15316a2d503bf26ab031a61d056e98 -->
- **Maximum Sequence Length:** 512 tokens
- **Output Dimensionality:** 384 tokens
- **Similarity Function:** Cosine Similarity
<!-- - **Training Dataset:** Unknown -->
<!-- - **Language:** Unknown -->
<!-- - **License:** Unknown -->
### Model Sources
- **Documentation:** [Sentence Transformers Documentation](https://sbert.net)
- **Repository:** [Sentence Transformers on GitHub](https://github.com/UKPLab/sentence-transformers)
- **Hugging Face:** [Sentence Transformers on Hugging Face](https://huggingface.co/models?library=sentence-transformers)
### Full Model Architecture
```
SentenceTransformer(
(0): Transformer({'max_seq_length': 512, 'do_lower_case': False}) with Transformer model: BertModel
(1): Pooling({'word_embedding_dimension': 384, 'pooling_mode_cls_token': False, 'pooling_mode_mean_tokens': True, 'pooling_mode_max_tokens': False, 'pooling_mode_mean_sqrt_len_tokens': False, 'pooling_mode_weightedmean_tokens': False, 'pooling_mode_lasttoken': False, 'include_prompt': True})
(2): Normalize()
)
```
## Usage
### Direct Usage (Sentence Transformers)
First install the Sentence Transformers library:
```bash
pip install -U sentence-transformers
```
Then you can load this model and run inference.
```python
from sentence_transformers import SentenceTransformer
# Download from the 🤗 Hub
model = SentenceTransformer("Yohhei/batch32-100")
# Run inference
sentences = [
'【貸出施設】ホール（定員３００人）第１会議室（定員２４人）第２会議室（定員３０人）和室（１）（定員３５人）和室（２）（定員１５人）音楽室（定員３０人）保育室として、和室（２）をご利用いただけます。【附帯設備】■ホールグランドピアノ、音響設備、マイク（有線・コードレス・ピンマイク）、反響板、照明設備、卓球台■第１会議室プロジェクター投影用スクリーン■第２会議室プロジェクター投影用スクリーン、調理器具、電子レンジ調理室としても利用できます。■音楽室アップライトピアノ■その他ラジカセ、プロジェクター、移動式マイクセット【設備】■コピー機コイン式コピー機を1階警備員室前に設置してあります。利用時間は午前８時００分～午後１０時までです。用紙のサイズはＢ５、Ａ４、Ｂ４、Ａ３で、１枚１０円です。■軽印刷機地域の活動やサークル活動のための資料の印刷に利用できます。Ａ３サイズまで印刷できます。利用時間は休館日を除く、午前９時から午後９時までです。利用料金はマスター代が原稿1枚につき１００円、インク代が印刷片面１０００枚以上ごとに１００円です。印刷用紙は利用者の持ち込みとなります。利用の際は、１階警備員室で利用のお手続きが必要です。■スピード写真撮影機証明書用スピード写真撮影機を正面玄関の手前に設置してあります。撮影料金は７００円です。■その他みんなのトイレ（１階、２階）、授乳室（１階）、冷水機（１階）【関連リンク】南市民センター・施設案内（施設貸出、施設使用料金等について）https://www.city.machida.tokyo.jp/kurashi/touroku/shisetsu/03/sisetuannai.html【お問合せ先】南市民センターTEL：042-795-3165FAX：042-795-1749担当課詳細：https://www.city.machida.tokyo.jp/kurashi/touroku/shisetsu/03/accessmap.html',
'質問：3490南市民センターにはどんな施設・設備がありますか。',
'質問：2139児童発達支援について知りたい',
]
embeddings = model.encode(sentences)
print(embeddings.shape)
# [3, 384]
# Get the similarity scores for the embeddings
similarities = model.similarity(embeddings, embeddings)
print(similarities.shape)
# [3, 3]
```
<!--
### Direct Usage (Transformers)
<details><summary>Click to see the direct usage in Transformers</summary>
</details>
-->
<!--
### Downstream Usage (Sentence Transformers)
You can finetune this model on your own dataset.
<details><summary>Click to expand</summary>
</details>
-->
<!--
### Out-of-Scope Use
*List how the model may foreseeably be misused and address what users ought not to do with the model.*
-->
## Evaluation
### Metrics
#### Information Retrieval
* Dataset: `intfloat/multilingual-e5-small`
* Evaluated with [<code>InformationRetrievalEvaluator</code>](https://sbert.net/docs/package_reference/sentence_transformer/evaluation.html#sentence_transformers.evaluation.InformationRetrievalEvaluator)
| Metric | Value |
|:--------------------|:-----------|
| cosine_accuracy@1 | 0.5162 |
| cosine_accuracy@3 | 0.7038 |
| cosine_accuracy@5 | 0.7748 |
| cosine_accuracy@10 | 0.8454 |
| cosine_precision@1 | 0.5162 |
| cosine_precision@3 | 0.2346 |
| cosine_precision@5 | 0.155 |
| cosine_precision@10 | 0.0845 |
| cosine_recall@1 | 0.5162 |
| cosine_recall@3 | 0.7038 |
| cosine_recall@5 | 0.7748 |
| cosine_recall@10 | 0.8454 |
| cosine_ndcg@10 | 0.6778 |
| cosine_mrr@10 | 0.6243 |
| **cosine_map@100** | **0.6301** |
<!--
## Bias, Risks and Limitations
*What are the known or foreseeable issues stemming from this model? You could also flag here known failure cases or weaknesses of the model.*
-->
<!--
### Recommendations
*What are recommendations with respect to the foreseeable issues? For example, filtering explicit content.*
-->
## Training Details
### Training Dataset
#### Unnamed Dataset
* Size: 14,690 training samples
* Columns: <code>positive</code> and <code>anchor</code>
* Approximate statistics based on the first 1000 samples:
| | positive | anchor |
|:--------|:-------------------------------------------------------------------------------------|:----------------------------------------------------------------------------------|
| type | string | string |
| details | <ul><li>min: 14 tokens</li><li>mean: 186.01 tokens</li><li>max: 512 tokens</li></ul> | <ul><li>min: 7 tokens</li><li>mean: 19.95 tokens</li><li>max: 56 tokens</li></ul> |
* Samples:
| positive | anchor |
|:---------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------|:--------------------------------------------------|
| <code>■住所や名義が変わった場合は変更登録や移転登録の手続きが必要です。通知文書については軽自動車の変更手続きを行わずに転出された方を対象に送付させていただいております。★原動機付自転車（排気量１２５ｃｃ以下のバイク）、排気量５０ｃｃ以下のミニカー、バギーカー、小型特殊自動車■原動機付自転車等を所有している方が小松市から転出した場合、原則として廃車の手続をしていただくことになります。転出先でそのまま使用する場合は、新たに転出先の市区町村で登録の手続きを行ってください。その際の手続きに必要な物については、転出先市町村にお問い合わせください。■転出先から原動機付自転車を廃車にする場合は、廃車申告書に必要事項を記入、押印したものと、返信用の封筒に切手を貼ったもの、小松市のナンバープレートを同封し、郵送で小松市へ送付してください。廃車申告書については転出先市町村の廃車申告書をご利用いただいても構いません。■転出先の市町村でも廃車の手続きができます。転出先の市町村にお問い合わせください。★軽二輪（１２５ｃｃを超２５０ｃｃ以下）、二輪の小型自動車（２５０ｃｃ超）■市役所ではお取り扱いしておりませんので、北陸信越運輸局 石川運輸支局へお問い合わせください。（連絡先）〒９２０－８２１３ 金沢市直江東１丁目１番北陸信越運輸局 石川運輸支局 電話０５０－５５４０－２０４５★軽三輪・軽四輪（６６０ｃｃ以下）■市役所ではお取り扱いしておりませんので、軽自動車検査協会 石川県事務所へお問い合わせくだください。（連絡先）〒９２０－８２１３ 金沢市直江東２丁目１２３番地１軽自動車検査協会 石川県事務所 電話０５０－３８１６－１８５３【税務課 税総合窓口グループ】（直通）０７６１－２４－８０２９（内線）３１２４・３１３５【南支所】（直通）０７６１－４４－２５３５（内線）２７００【小松駅前行政サービスセンター】（直通）０７６１－２３－２３２３（内線）４３０７</code> | <code>小松市から転出後しばらくして軽自動車についての通知が届いたのですが（Ａ）</code> |
| <code>○市章（昭和33年10月1日制定）マチダのマの字2つをもって田の字型に図案化して、市民の和合団結を表しています。中央の鳥型は、平和と発展のしるしです。○市の木・けやき（昭和47年6月15日制定）日本原産で、武蔵野・相模を代表する落葉高木。空に向かって枝を広げ、すくすく伸びゆく風格ある姿は発展する町田市を表す木として、「市の木」選定の際にも高い人気を得ました。市内にも随所にけやき並木が整備され、市民に憩いをあたえています。○市の花・サルビア（昭和47年6月15日制定）ブラジル原産。シソ科の一年草。夏から秋にかけて、公園や街路などで鮮やかな紅色の花を咲かせます。エネルギッシュな容姿は町田市の若さとバイタリティを表しています。市内各地の花壇に植えられ、幅広く市民に愛されています。○市の鳥・カワセミ（平成14年6月15日制定）全国に分布し、青緑色とオレンジ色の体、長いくちばしと短い尾を持つ野鳥です。多摩丘陵の源流都市である町田市のシンボルとしてふさわしいことから市の鳥に選定されました。</code> | <code>質問：1296市章、市の木、市の花、市の鳥を知りたい</code> |
| <code>所得に応じた免除基準としています。成人健康診査・がん検診とも前年度住民税非課税世帯の方・生活保護受給者・中国残留邦人等支援給付受給者であれば、自己負担金が免除となります。ただし、胃がんリスク検診（ABC検診）は、町田市では１回限りの検診であり、受診を勧奨する年齢を定めているため、30歳および40歳の方、生活保護受給者、中国残留邦人等支援給付受給者を免除としています。※胃がんリスク検診（ABC検診）の自己負担金免除の対象年齢は、2018年度までは、40歳以上で5歳刻みの年齢でした（40歳、45歳、50歳…）。</code> | <code>質問：2358がん検診や成人健康診査の自己負担金免除の基準は何か</code> |
* Loss: [<code>MultipleNegativesRankingLoss</code>](https://sbert.net/docs/package_reference/sentence_transformer/losses.html#multiplenegativesrankingloss) with these parameters:
```json
{
"scale": 20.0,
"similarity_fct": "cos_sim"
}
```
### Training Hyperparameters
#### Non-Default Hyperparameters
- `eval_strategy`: steps
- `per_device_train_batch_size`: 32
- `per_device_eval_batch_size`: 32
- `learning_rate`: 2e-05
- `num_train_epochs`: 4
- `warmup_ratio`: 0.1
- `fp16`: True
- `batch_sampler`: no_duplicates
#### All Hyperparameters
<details><summary>Click to expand</summary>
- `overwrite_output_dir`: False
- `do_predict`: False
- `eval_strategy`: steps
- `prediction_loss_only`: True
- `per_device_train_batch_size`: 32
- `per_device_eval_batch_size`: 32
- `per_gpu_train_batch_size`: None
- `per_gpu_eval_batch_size`: None
- `gradient_accumulation_steps`: 1
- `eval_accumulation_steps`: None
- `torch_empty_cache_steps`: None
- `learning_rate`: 2e-05
- `weight_decay`: 0.0
- `adam_beta1`: 0.9
- `adam_beta2`: 0.999
- `adam_epsilon`: 1e-08
- `max_grad_norm`: 1.0
- `num_train_epochs`: 4
- `max_steps`: -1
- `lr_scheduler_type`: linear
- `lr_scheduler_kwargs`: {}
- `warmup_ratio`: 0.1
- `warmup_steps`: 0
- `log_level`: passive
- `log_level_replica`: warning
- `log_on_each_node`: True
- `logging_nan_inf_filter`: True
- `save_safetensors`: True
- `save_on_each_node`: False
- `save_only_model`: False
- `restore_callback_states_from_checkpoint`: False
- `no_cuda`: False
- `use_cpu`: False
- `use_mps_device`: False
- `seed`: 42
- `data_seed`: None
- `jit_mode_eval`: False
- `use_ipex`: False
- `bf16`: False
- `fp16`: True
- `fp16_opt_level`: O1
- `half_precision_backend`: auto
- `bf16_full_eval`: False
- `fp16_full_eval`: False
- `tf32`: None
- `local_rank`: 0
- `ddp_backend`: None
- `tpu_num_cores`: None
- `tpu_metrics_debug`: False
- `debug`: []
- `dataloader_drop_last`: False
- `dataloader_num_workers`: 0
- `dataloader_prefetch_factor`: None
- `past_index`: -1
- `disable_tqdm`: False
- `remove_unused_columns`: True
- `label_names`: None
- `load_best_model_at_end`: False
- `ignore_data_skip`: False
- `fsdp`: []
- `fsdp_min_num_params`: 0
- `fsdp_config`: {'min_num_params': 0, 'xla': False, 'xla_fsdp_v2': False, 'xla_fsdp_grad_ckpt': False}
- `fsdp_transformer_layer_cls_to_wrap`: None
- `accelerator_config`: {'split_batches': False, 'dispatch_batches': None, 'even_batches': True, 'use_seedable_sampler': True, 'non_blocking': False, 'gradient_accumulation_kwargs': None}
- `deepspeed`: None
- `label_smoothing_factor`: 0.0
- `optim`: adamw_torch
- `optim_args`: None
- `adafactor`: False
- `group_by_length`: False
- `length_column_name`: length
- `ddp_find_unused_parameters`: None
- `ddp_bucket_cap_mb`: None
- `ddp_broadcast_buffers`: False
- `dataloader_pin_memory`: True
- `dataloader_persistent_workers`: False
- `skip_memory_metrics`: True
- `use_legacy_prediction_loop`: False
- `push_to_hub`: False
- `resume_from_checkpoint`: None
- `hub_model_id`: None
- `hub_strategy`: every_save
- `hub_private_repo`: False
- `hub_always_push`: False
- `gradient_checkpointing`: False
- `gradient_checkpointing_kwargs`: None
- `include_inputs_for_metrics`: False
- `eval_do_concat_batches`: True
- `fp16_backend`: auto
- `push_to_hub_model_id`: None
- `push_to_hub_organization`: None
- `mp_parameters`:
- `auto_find_batch_size`: False
- `full_determinism`: False
- `torchdynamo`: None
- `ray_scope`: last
- `ddp_timeout`: 1800
- `torch_compile`: False
- `torch_compile_backend`: None
- `torch_compile_mode`: None
- `dispatch_batches`: None
- `split_batches`: None
- `include_tokens_per_second`: False
- `include_num_input_tokens_seen`: False
- `neftune_noise_alpha`: None
- `optim_target_modules`: None
- `batch_eval_metrics`: False
- `eval_on_start`: False
- `eval_use_gather_object`: False
- `batch_sampler`: no_duplicates
- `multi_dataset_batch_sampler`: proportional
</details>
### Training Logs
| Epoch | Step | Training Loss | intfloat/multilingual-e5-small_cosine_map@100 |
|:------:|:----:|:-------------:|:---------------------------------------------:|
| 0 | 0 | - | 0.4852 |
| 0.2174 | 100 | 1.0389 | 0.5587 |
| 0.4348 | 200 | 0.1562 | 0.5806 |
| 0.6522 | 300 | 0.1347 | 0.5826 |
| 0.8696 | 400 | 0.123 | 0.5907 |
| 1.0870 | 500 | 0.1119 | 0.6053 |
| 1.3043 | 600 | 0.0761 | 0.6051 |
| 1.5217 | 700 | 0.0587 | 0.6045 |
| 1.7391 | 800 | 0.0636 | 0.6070 |
| 1.9565 | 900 | 0.0461 | 0.6099 |
| 2.1739 | 1000 | 0.0473 | 0.6153 |
| 2.3913 | 1100 | 0.0291 | 0.6130 |
| 2.6087 | 1200 | 0.0274 | 0.6199 |
| 2.8261 | 1300 | 0.0348 | 0.6215 |
| 3.0435 | 1400 | 0.0267 | 0.6285 |
| 3.2609 | 1500 | 0.0238 | 0.6307 |
| 3.4783 | 1600 | 0.0213 | 0.6257 |
| 3.6957 | 1700 | 0.0225 | 0.6284 |
| 3.9130 | 1800 | 0.0228 | 0.6301 |
### Framework Versions
- Python: 3.8.10
- Sentence Transformers: 3.0.1
- Transformers: 4.44.2
- PyTorch: 2.1.2+cu121
- Accelerate: 0.32.0
- Datasets: 2.19.1
- Tokenizers: 0.19.1
## Citation
### BibTeX
#### Sentence Transformers
```bibtex
@inproceedings{reimers-2019-sentence-bert,
title = "Sentence-BERT: Sentence Embeddings using Siamese BERT-Networks",
author = "Reimers, Nils and Gurevych, Iryna",
booktitle = "Proceedings of the 2019 Conference on Empirical Methods in Natural Language Processing",
month = "11",
year = "2019",
publisher = "Association for Computational Linguistics",
url = "https://arxiv.org/abs/1908.10084",
}
```
#### MultipleNegativesRankingLoss
```bibtex
@misc{henderson2017efficient,
title={Efficient Natural Language Response Suggestion for Smart Reply},
author={Matthew Henderson and Rami Al-Rfou and Brian Strope and Yun-hsuan Sung and Laszlo Lukacs and Ruiqi Guo and Sanjiv Kumar and Balint Miklos and Ray Kurzweil},
year={2017},
eprint={1705.00652},
archivePrefix={arXiv},
primaryClass={cs.CL}
}
```
<!--
## Glossary
*Clearly define terms in order to be accessible across audiences.*
-->
<!--
## Model Card Authors
*Lists the people who create the model card, providing recognition and accountability for the detailed work that goes into its construction.*
-->
<!--
## Model Card Contact
*Provides a way for people who have updates to the Model Card, suggestions, or questions, to contact the Model Card authors.*
--> |