muse-repo / README.md
huggingshogun's picture
Initial model upload
89f4216 verified
---
base_model: sentence-transformers/use-cmlm-multilingual
datasets: []
language: []
library_name: sentence-transformers
pipeline_tag: sentence-similarity
tags:
- sentence-transformers
- sentence-similarity
- feature-extraction
- generated_from_trainer
- dataset_size:200000
- loss:ContrastiveLoss
widget:
- source_sentence: 'Сапоги ALEX for me 1: Одежда и обувь, 2: Обувь, 3: Повседневная
обувь, 4: Сапоги,Вид каблука: [''Без каблука''], Длина стельки, см: [''27,5''],
Российский размер (обуви): [''42''], Пол: [''Женский''], Информация о размерах:
[''Задавайте любые вопросы, с удовольствием поможем Вам подобрать подходящий размер.''],
Вид застёжки: [''Молния''], Сезон: [''Зима''], Внутренний материал: [''Евромех''],
Коллекция: [''Базовая коллекция''], Высота платформы, см: [''3.5''], Тип пронации:
[''Нейтральная''], Бренд в одежде и обуви: [''ALEX for me''], Страна бренда: [''Россия''],'
sentences:
- 'Сапоги ALEX for me 1: Одежда и обувь, 2: Обувь, 3: Повседневная обувь, 4: Сапоги,Вид
каблука: [''Без каблука''], Длина стельки, см: [''27''], Российский размер (обуви):
[''42''], Пол: [''Женский''], Информация о размерах: [''Задавайте любые вопросы,
с удовольствием поможем Вам подобрать подходящий размер.''], Вид застёжки: [''Молния''],
Сезон: [''Зима''], Материал: [''Натуральная кожа''], Внутренний материал: [''Натуральный
мех''], Коллекция: [''Базовая коллекция''], Высота платформы, см: [''3.5''], Тип
пронации: [''Нейтральная''], Бренд в одежде и обуви: [''ALEX for'
- '30 700 МЕ/кг, витамин D3 1610 МЕ/кг, витамин Е (ал-рац-альфа-токоферилацетат)
72 мг/кг, хлорид холина 1500 мг/кг, селен (селенит натрия 0,27). мг/кг) 0,12 мг/кг,
Марганец (моногидрат сульфата марганца 57,7 мг/кг) 18,7 мг/кг, Цинк''], Класс
корма: [''Супер-премиум''], Gemon Cat Adult Sterilized (Тунец, лосось)Полноценный
корм для стерилизованных взрослых кошек.Состав характеризуется качественными ингредиентами,
такими как тунец и лосось, источниками необходимых питательных веществ, и рисом,
источником углеводов, приготовленных и легко усвояемых в процессе экструзии. Идеальная'
- 'Материал подклада/внутренней отделки: [''Хлопок''], Стиль: [''Коктейльный'',
''Повседневное''], Коллекция: [''Осень-зима 2023''], Рост модели на фото: [''180
см''], Декоративные элементы: [''Карманы''], Размер на модели: [''58''], Состав
материала: [''72,1 % хлопок, 20,6 % полиэфирное волокно, 5,0 % вискозное волокно,
2,3 % нейлон''], Рисунок: [''Однотонный''], Размер производителя: [''S''], Бренд
в одежде и обуви: [''CCONCOSS''], Стиль: Уличный, Модный, Повседневный<br/><br/>стиль:
длинный<br/><br/>Тип брюк: прямые<br/><br/>Тип талии: средняя талия<br/><br/>Талия:
ширинка на шнурке<br/><br/>Название ткани: джинсовая ткань<br/><br/>Состав ткани:
72,1 % хлопок,'
- source_sentence: 'STEVIOSIDE, CAMELLIA SINENSIS LEAF EXTRACT, ROSMARINUS OFFICINALIS
(ROSEMARY) EXTRACT, ROYAL JELLY EXTRACT, DAUCUS CAROTA SATIVA (CARROT) ROOT EXTRACT,
SALVIA OFFICINALIS (SAGE) EXTRACT, CHAMOMILLA RECUTITA (MATRICARIA) EXTRACT, CALENDULA
OFFICINALIS EXTRACT, PUNICA GRANATUM FRUIT EXTRACT, TOCOPHERYL ACETATE, FRAGRANCE,
LIMONENE''], Объем, мл: [''450''], Бренд: [''Kundal''], Тип: [''Набор зубных паст''],
Страна-изготовитель: [''Корея''], Название аромата: [''освежающая мята''], Особенности
состава: [''Без парабенов'', ''Не тестируется на животных'', ''Подходит для ежедневного
применения''], Действие: [''Комплексный уход'', ''Отбеливание'', ''Против неприятного'
sentences:
- (ND) (2004-2015)</p>"
- 'семян: [''райграс, овсянница, мятлик''], Жизненный цикл: [''Многолетник''], Время
урожая: [''Апрель''], Семена газонной травы<br/><br/>Травосмесь для солнечных
и неравномерно освещенных участков.<br/><br/>Универсальная травосмесь с высокой
декоративностью.<br/><br/>Подходит для создания газонов на детских площадках,
около частных домов, на открытых лужайках в парках.<br/><br/>Газонная трава быстро
развивается после посева, формирует густой и прочный травостой.<br/><br/>Обладает
устойчивостью к вытаптыванию и повышенной засухоустойчивостью.<br/><br/>Медленно
отрастает после скашивания.<br/><br/>Норма высева: 30-35 г/м2.<br/><br/>Состав:<br/><br/>-
овсяница тростниковая Старлетт 40%<br/><br/>- овсяница красная Мистик 20%<br/><br/>-
мятлик луговой Компакт'
- 'STEVIOSIDE, SODIUM CHLORIDE, CAMELLIA SINENSIS LEAF EXTRACT, ROSMARINUS OFFICINALIS
(ROSEMARY) EXTRACT, ROYAL JELLY EXTRACT, DAUCUS CAROTA SATIVA (CARROT) ROOT EXTRACT,
SALVIA OFFICINALIS (SAGE) EXTRACT, CHAMOMILLA RECUTITA (MATRICARIA) EXTRACT, CALENDULA
OFFICINALIS EXTRACT, PUNICA GRANATUM FRUIT EXTRACT, TOCOPHERYL ACETATE, MENTHOL,
FRAGRANCE, CITRAL, LIMONENE''], Объем, мл: [''450''], Бренд: [''Kundal''], Тип:
[''Набор зубных паст''], Страна-изготовитель: [''Корея''], Название аромата: [''лимонная
соль''], Особенности состава: [''Без парабенов'', ''Не тестируется на животных'',
''Подходит для ежедневного применения''], Вес, г:'
- source_sentence: этот прекрасный компьютерный стол "Stalker" от Stalkermebel, который
станет отличным дополнением для вашего домашнего офиса или игровой комнаты. И
если вам нужен письменный стол, который бы сочетал в себе элегантный дизайн и
практичность, то обратите внимание на другие изделия нашей компании. <br/>
sentences:
- этот прекрасный компьютерный стол "Stalker" от Stalkermebel, который станет отличным
дополнением для вашего домашнего офиса или игровой комнаты. И если вам нужен письменный
стол, который бы сочетал в себе элегантный дизайн и практичность, то обратите
внимание на другие изделия нашей компании. <br/>
- 'Поводок-рулетка для собак Ferplast Amigo Mini со сменной крышкой корпуса (бежево-фиолетовая,
шнур) 3 м./до 12 кг. 1: EPG, 2: Товары для животных, 3: Аксессуар для прогулки
и дрессировки, 4: Поводок,Артикул: [''75700019''], Комплектация: [''Товар в фабричной
упаковке''], Размер упаковки (Длина х Ширина х Высота), см: [''25х 10''], Размер
животного: [''Малый'', ''Средний''], Бренд: [''FERPLAST''], Тип: [''Поводок''],
Материал: [''ABS пластик''], Вид поводка: [''Рулетка''], Предназначено для: [''Для
кошек'', ''Для собак''], Размеры, мм: [''25х 10''],'
- 'Вес товара, г: [''15''], Леденец Цифра 3 из изомальта Mon Realle 15г Россия -
1 шт.'
- source_sentence: 'Магнитный конструктор/Детский конструктор "Цветные магниты", 17
деталей 1: EPG, 2: Детские товары, 3: Конструкторы, 4: Магнитный конструктор,Цвет
товара: [''разноцветный''], Пол ребенка: [''Унисекс''], Название цвета: [''разноцветный''],
Бренд: [''ANGE DE LUNE''], Тип: [''Конструктор магнитный''], Страна-изготовитель:
[''Китай''], Минимальный возраст ребенка: [''От 1 года''], Материал: [''Магнит'',
''Пластик''], Максимальный возраст ребенка: [''До 5 лет''], Почувствуйте силу
притяжения! Представляем вашему вниманию конструктор нового поколения, который
будет интересен не только детям, но и их родителям. Магнитный конструктор'
sentences:
- 'учитывать уровень активности ребенка.<br/><br/>Инструкция по уходу: Перед стиркой
необходимо отстегнуть мех! Очень деликатная стирка при макс. 30°C; Не отбеливать;
Не сушить в сушильной машине; Гладить при макс. 110 °C без пара; Деликатная химчистка
в тетрахлорэтене или в углеводородах; Очень деликатная профессиональная влажная
чистка; Сушить на горизонтальной поверхности в тени; Стирать отдельно; Гладить
с использованием ткани для глажения; Рекомендуется стирка и утюжка с изнаночной
стороны.<br/><br/>ЗАЩИТИТЬ ФУРНИТУРУ ПЕРЕД СТИРКОЙ'
- 'Конструктор магнитный Цветные магниты, 17 деталей 1: EPG, 2: Детские товары,
3: Конструкторы, 4: Магнитный конструктор,Цвет товара: [''разноцветный''], Пол
ребенка: [''Унисекс''], Тематика конструкторов: [''Фантазия без границ''], Количество
элементов, шт: [''17''], Бренд: [''CUBU''], Тип: [''Конструктор магнитный''],
Страна-изготовитель: [''Китай''], Особенности конструктора: [''Магнитный''], Минимальный
возраст ребенка: [''От 3 лет''], Материал: [''Металл'', ''Пластик''], Максимальный
возраст ребенка: [''До 18 лет''], Почувствуйте силу притяжения!Представляем вашему
вниманию конструктор нового поколения, который будет интересен не только детям,
но'
- '''Коридор'', ''Мансарда'', ''Мастер-спальня'', ''Офис'', ''Прихожая'', ''Спальня'',
''Студия'', ''Студия-кухня'', ''Терраса'', ''Торговый зал'', ''Холл''], Материал
чехла: [''Жаккард''], Материал наполнителя: [''Memory Foam'', ''Меморикс'', ''Пена
Memory Gel''], Бренд: [''SLEEP A LOT''], Особенности матраса: [''Гипоаллергенный
наполнитель'', ''Зоны комфорта'', ''Стеганое покрытие'', ''Съемный чехол'', ''Эффект
памяти''], Длина, см: [''170''], Минимальная жесткость: [''Мягкий''], Максимальная
жесткость: [''Мягкий''], Высота, см: [''4''], Вид выпуска товара: [''Фабричное
производство''], Ширина, см: [''135''], Вес товара, г: [''5000''], Топпер GARRETT
Aydon — это отличная модель'
- source_sentence: 'флексов: [''Да''], Пол: [''Женский''], Коллекция (год): [''2022.0''],
Общая ширина, мм: [''142''], Цвет товара: [''бежевый''], Ширина линзы, мм: [''53''],
Название цвета: [''BEIGE & CRYSTAL''], Высота линзы, мм: [''52''], Размер заушника,
мм: [''148''], Бренд: [''Boccaccio''], Оптическая сила: [''0.00''], Размер моста
на переносице, мм: [''20''], Форма лица: [''Квадратная'', ''Круглая'', ''Овальная'',
''Прямоугольная'', ''Треугольная''], Покрытие линз: [''Упрочняющее, просветляющее,
металлизированное (защита от электромагнитных волн) UV-380, водоотталкивающее
и антистатическое''], Расстояние между оптическими центрами: [''62-64''], Форма
оправы: [''Круглая''],'
sentences:
- Изначально сборка паяется с разъёмом SMA-male, после чего интегрируется (накручивается,
конечно) переходник с SMA-female на запрашиваемый. Сборка поставляется вместе
с переходником (или даже с двумя, если оба разъема попадают под данную ремарку).<br>
О кабеле:<br> Кабель имеет толщину примерно 7,58 миллиметров, сборка создана на
кабеле 5D-FB CCA 50 Ом, материал оболочки - PVC. Диаметр центральной жилы - 1.8
мм, диаметр изоляции (не кабеля) - 4.9 мм, материал изоляции - вспененный полиэтилен,
- 'Радиоуправляемый краулер Huang Bo 4WD RTR масштаб 1:10 2.4G - HB-ZP1005 1: EPG,
2: Детские товары, 3: Радиоуправляемые игрушки, 4: Машинка радиоуправляемая,Радиус
действия, м: [''60''], Пол ребенка: [''Мальчик''], Время работы, мин: [''20''],
Максимальная скорость, км/ч: [''15''], Тип: [''Машинка радиоуправляемая''], Страна-изготовитель:
[''Китай''], Питание радиоуправляемой модели: [''Сменная батарея''], Типоразмер
батареек пульта: [''AA''], Управление радиоуправляемой моделью: [''Пульт Д/У''],
Питание пульта: [''Сменная батарея''], Цвет товара: [''желтый''], Масштаб радиоуправляемой
игрушки: [''1/10''], Особенности радиоуправляемых игрушек: [''Световые'
- 'флексов: [''Да''], Пол: [''Женский''], Коллекция (год): [''2022.0''], Общая ширина,
мм: [''142''], Цвет товара: [''бежевый''], Ширина линзы, мм: [''53''], Название
цвета: [''BEIGE & CRYSTAL''], Высота линзы, мм: [''52''], Размер заушника, мм:
[''148''], Бренд: [''Boccaccio''], Оптическая сила: [''-1.00''], Размер моста
на переносице, мм: [''20''], Форма лица: [''Квадратная'', ''Круглая'', ''Овальная'',
''Прямоугольная'', ''Треугольная''], Покрытие линз: [''Упрочняющее, просветляющее,
металлизированное (защита от электромагнитных волн) UV-380, водоотталкивающее
и антистатическое''], Расстояние между оптическими центрами: [''62-64''], Форма
оправы: [''Круглая''],'
---
# SentenceTransformer based on sentence-transformers/use-cmlm-multilingual
This is a [sentence-transformers](https://www.SBERT.net) model finetuned from [sentence-transformers/use-cmlm-multilingual](https://huggingface.co/sentence-transformers/use-cmlm-multilingual). It maps sentences & paragraphs to a 768-dimensional dense vector space and can be used for semantic textual similarity, semantic search, paraphrase mining, text classification, clustering, and more.
## Model Details
### Model Description
- **Model Type:** Sentence Transformer
- **Base model:** [sentence-transformers/use-cmlm-multilingual](https://huggingface.co/sentence-transformers/use-cmlm-multilingual) <!-- at revision 6f8ff6583c371cbc4d6d3b93a5e37a888fd54574 -->
- **Maximum Sequence Length:** 256 tokens
- **Output Dimensionality:** 768 tokens
- **Similarity Function:** Cosine Similarity
<!-- - **Training Dataset:** Unknown -->
<!-- - **Language:** Unknown -->
<!-- - **License:** Unknown -->
### Model Sources
- **Documentation:** [Sentence Transformers Documentation](https://sbert.net)
- **Repository:** [Sentence Transformers on GitHub](https://github.com/UKPLab/sentence-transformers)
- **Hugging Face:** [Sentence Transformers on Hugging Face](https://huggingface.co/models?library=sentence-transformers)
### Full Model Architecture
```
SentenceTransformer(
(0): Transformer({'max_seq_length': 256, 'do_lower_case': False}) with Transformer model: BertModel
(1): Pooling({'word_embedding_dimension': 768, 'pooling_mode_cls_token': False, 'pooling_mode_mean_tokens': True, 'pooling_mode_max_tokens': False, 'pooling_mode_mean_sqrt_len_tokens': False, 'pooling_mode_weightedmean_tokens': False, 'pooling_mode_lasttoken': False, 'include_prompt': True})
(2): Normalize()
)
```
## Usage
### Direct Usage (Sentence Transformers)
First install the Sentence Transformers library:
```bash
pip install -U sentence-transformers
```
Then you can load this model and run inference.
```python
from sentence_transformers import SentenceTransformer
# Download from the 🤗 Hub
model = SentenceTransformer("sentence_transformers_model_id")
# Run inference
sentences = [
"флексов: ['Да'], Пол: ['Женский'], Коллекция (год): ['2022.0'], Общая ширина, мм: ['142'], Цвет товара: ['бежевый'], Ширина линзы, мм: ['53'], Название цвета: ['BEIGE & CRYSTAL'], Высота линзы, мм: ['52'], Размер заушника, мм: ['148'], Бренд: ['Boccaccio'], Оптическая сила: ['0.00'], Размер моста на переносице, мм: ['20'], Форма лица: ['Квадратная', 'Круглая', 'Овальная', 'Прямоугольная', 'Треугольная'], Покрытие линз: ['Упрочняющее, просветляющее, металлизированное (защита от электромагнитных волн) UV-380, водоотталкивающее и антистатическое'], Расстояние между оптическими центрами: ['62-64'], Форма оправы: ['Круглая'],",
"флексов: ['Да'], Пол: ['Женский'], Коллекция (год): ['2022.0'], Общая ширина, мм: ['142'], Цвет товара: ['бежевый'], Ширина линзы, мм: ['53'], Название цвета: ['BEIGE & CRYSTAL'], Высота линзы, мм: ['52'], Размер заушника, мм: ['148'], Бренд: ['Boccaccio'], Оптическая сила: ['-1.00'], Размер моста на переносице, мм: ['20'], Форма лица: ['Квадратная', 'Круглая', 'Овальная', 'Прямоугольная', 'Треугольная'], Покрытие линз: ['Упрочняющее, просветляющее, металлизированное (защита от электромагнитных волн) UV-380, водоотталкивающее и антистатическое'], Расстояние между оптическими центрами: ['62-64'], Форма оправы: ['Круглая'],",
'Изначально сборка паяется с разъёмом SMA-male, после чего интегрируется (накручивается, конечно) переходник с SMA-female на запрашиваемый. Сборка поставляется вместе с переходником (или даже с двумя, если оба разъема попадают под данную ремарку).<br> О кабеле:<br> Кабель имеет толщину примерно 7,58 миллиметров, сборка создана на кабеле 5D-FB CCA 50 Ом, материал оболочки - PVC. Диаметр центральной жилы - 1.8 мм, диаметр изоляции (не кабеля) - 4.9 мм, материал изоляции - вспененный полиэтилен,',
]
embeddings = model.encode(sentences)
print(embeddings.shape)
# [3, 768]
# Get the similarity scores for the embeddings
similarities = model.similarity(embeddings, embeddings)
print(similarities.shape)
# [3, 3]
```
<!--
### Direct Usage (Transformers)
<details><summary>Click to see the direct usage in Transformers</summary>
</details>
-->
<!--
### Downstream Usage (Sentence Transformers)
You can finetune this model on your own dataset.
<details><summary>Click to expand</summary>
</details>
-->
<!--
### Out-of-Scope Use
*List how the model may foreseeably be misused and address what users ought not to do with the model.*
-->
<!--
## Bias, Risks and Limitations
*What are the known or foreseeable issues stemming from this model? You could also flag here known failure cases or weaknesses of the model.*
-->
<!--
### Recommendations
*What are recommendations with respect to the foreseeable issues? For example, filtering explicit content.*
-->
## Training Details
### Training Dataset
#### Unnamed Dataset
* Size: 200,000 training samples
* Columns: <code>sentence_0</code>, <code>sentence_1</code>, and <code>label</code>
* Approximate statistics based on the first 1000 samples:
| | sentence_0 | sentence_1 | label |
|:--------|:------------------------------------------------------------------------------------|:------------------------------------------------------------------------------------|:------------------------------------------------|
| type | string | string | int |
| details | <ul><li>min: 3 tokens</li><li>mean: 155.76 tokens</li><li>max: 256 tokens</li></ul> | <ul><li>min: 3 tokens</li><li>mean: 153.29 tokens</li><li>max: 256 tokens</li></ul> | <ul><li>0: ~55.40%</li><li>1: ~44.60%</li></ul> |
* Samples:
| sentence_0 | sentence_1 | label |
|:----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------|:---------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------|:---------------|
| <code>Удилище с катушкой в комплекте - леска, поплавок, грузило 1: EPG, 2: Спорт и отдых, 3: Аксессуары и принадлежности для рыбалки, 4: Удилище,Количество колец: ['7'], Материал удилища: ['Карбон'], Бренд: ['Нет бренда'], Тип: ['Удилище с катушкой'], Рабочая длина, см: ['370'], Конструкция удилища: ['Телескопическая'], Длина в сложенном виде, см: ['65'], Вершинка удилища: ['Вклеенная монолитная (solid tip)'], Количество секций: ['7'], Длина рукояти, см: ['40'], Вес товара, г: ['460'], Удочка (удилище) - удобная и</code> | <code>Удилище с катушкой в комплекте - леска, поплавок, грузило, 200 см 1: EPG, 2: Спорт и отдых, 3: Аксессуары и принадлежности для рыбалки, 4: Удилище,Количество колец: ['4'], Материал удилища: ['Карбон'], Бренд: ['Нет бренда'], Тип: ['Удилище с катушкой'], Рабочая длина, см: ['200'], Конструкция удилища: ['Телескопическая'], Длина в сложенном виде, см: ['45'], Вершинка удилища: ['Вклеенная монолитная (solid tip)'], Количество секций: ['4'], Длина рукояти, см: ['28'], Вес товара, г: ['270'], Удочка (удилище) -</code> | <code>0</code> |
| <code>['Мягкая обложка'], Язык издания: ['Русский'], Предмет обучения: ['История'], <p>Атлас предназначен для углубления знаний учащихся по курсу Новой истории. Картографический материал, включенный в атлас, соответствует Государственному образовательному стандарту. </p> <p>Атлас может быть использован в комплекте с основными учебниками по Новой истории как на уроках, так и во внеурочной деятельности. Он содержит богатый материал для самостоятельной работы, дает возможность проверить знания школьников и расширить их кругозор. </p></code> | <code>любителей занимаются приусадебным хозяйством и получают от этого неплохую прибыль.<br>В этой книге собраны материалы, необходимые современному дачнику. Постройка садового домика, уход за садом и огородом, основы интенсивного животноводства - об этом и о многом другом читайте на страницах издания.<br><br>Издание адресовано широкому кругу читателей.</code> | <code>0</code> |
| <code>комод деревянный также на кухне для посуды.</code> | <code>деревянный также на кухне для посуды.</code> | <code>0</code> |
* Loss: [<code>ContrastiveLoss</code>](https://sbert.net/docs/package_reference/sentence_transformer/losses.html#contrastiveloss) with these parameters:
```json
{
"distance_metric": "SiameseDistanceMetric.COSINE_DISTANCE",
"margin": 0.5,
"size_average": true
}
```
### Training Hyperparameters
#### Non-Default Hyperparameters
- `per_device_train_batch_size`: 40
- `per_device_eval_batch_size`: 40
- `num_train_epochs`: 1
- `multi_dataset_batch_sampler`: round_robin
#### All Hyperparameters
<details><summary>Click to expand</summary>
- `overwrite_output_dir`: False
- `do_predict`: False
- `eval_strategy`: no
- `prediction_loss_only`: True
- `per_device_train_batch_size`: 40
- `per_device_eval_batch_size`: 40
- `per_gpu_train_batch_size`: None
- `per_gpu_eval_batch_size`: None
- `gradient_accumulation_steps`: 1
- `eval_accumulation_steps`: None
- `torch_empty_cache_steps`: None
- `learning_rate`: 5e-05
- `weight_decay`: 0.0
- `adam_beta1`: 0.9
- `adam_beta2`: 0.999
- `adam_epsilon`: 1e-08
- `max_grad_norm`: 1
- `num_train_epochs`: 1
- `max_steps`: -1
- `lr_scheduler_type`: linear
- `lr_scheduler_kwargs`: {}
- `warmup_ratio`: 0.0
- `warmup_steps`: 0
- `log_level`: passive
- `log_level_replica`: warning
- `log_on_each_node`: True
- `logging_nan_inf_filter`: True
- `save_safetensors`: True
- `save_on_each_node`: False
- `save_only_model`: False
- `restore_callback_states_from_checkpoint`: False
- `no_cuda`: False
- `use_cpu`: False
- `use_mps_device`: False
- `seed`: 42
- `data_seed`: None
- `jit_mode_eval`: False
- `use_ipex`: False
- `bf16`: False
- `fp16`: False
- `fp16_opt_level`: O1
- `half_precision_backend`: auto
- `bf16_full_eval`: False
- `fp16_full_eval`: False
- `tf32`: None
- `local_rank`: 0
- `ddp_backend`: None
- `tpu_num_cores`: None
- `tpu_metrics_debug`: False
- `debug`: []
- `dataloader_drop_last`: False
- `dataloader_num_workers`: 0
- `dataloader_prefetch_factor`: None
- `past_index`: -1
- `disable_tqdm`: False
- `remove_unused_columns`: True
- `label_names`: None
- `load_best_model_at_end`: False
- `ignore_data_skip`: False
- `fsdp`: []
- `fsdp_min_num_params`: 0
- `fsdp_config`: {'min_num_params': 0, 'xla': False, 'xla_fsdp_v2': False, 'xla_fsdp_grad_ckpt': False}
- `fsdp_transformer_layer_cls_to_wrap`: None
- `accelerator_config`: {'split_batches': False, 'dispatch_batches': None, 'even_batches': True, 'use_seedable_sampler': True, 'non_blocking': False, 'gradient_accumulation_kwargs': None}
- `deepspeed`: None
- `label_smoothing_factor`: 0.0
- `optim`: adamw_torch
- `optim_args`: None
- `adafactor`: False
- `group_by_length`: False
- `length_column_name`: length
- `ddp_find_unused_parameters`: None
- `ddp_bucket_cap_mb`: None
- `ddp_broadcast_buffers`: False
- `dataloader_pin_memory`: True
- `dataloader_persistent_workers`: False
- `skip_memory_metrics`: True
- `use_legacy_prediction_loop`: False
- `push_to_hub`: False
- `resume_from_checkpoint`: None
- `hub_model_id`: None
- `hub_strategy`: every_save
- `hub_private_repo`: False
- `hub_always_push`: False
- `gradient_checkpointing`: False
- `gradient_checkpointing_kwargs`: None
- `include_inputs_for_metrics`: False
- `eval_do_concat_batches`: True
- `fp16_backend`: auto
- `push_to_hub_model_id`: None
- `push_to_hub_organization`: None
- `mp_parameters`:
- `auto_find_batch_size`: False
- `full_determinism`: False
- `torchdynamo`: None
- `ray_scope`: last
- `ddp_timeout`: 1800
- `torch_compile`: False
- `torch_compile_backend`: None
- `torch_compile_mode`: None
- `dispatch_batches`: None
- `split_batches`: None
- `include_tokens_per_second`: False
- `include_num_input_tokens_seen`: False
- `neftune_noise_alpha`: None
- `optim_target_modules`: None
- `batch_eval_metrics`: False
- `eval_on_start`: False
- `eval_use_gather_object`: False
- `batch_sampler`: batch_sampler
- `multi_dataset_batch_sampler`: round_robin
</details>
### Training Logs
| Epoch | Step | Training Loss |
|:-----:|:----:|:-------------:|
| 0.1 | 500 | 0.0449 |
| 0.2 | 1000 | 0.0356 |
| 0.3 | 1500 | 0.0328 |
| 0.4 | 2000 | 0.0311 |
| 0.5 | 2500 | 0.0304 |
| 0.6 | 3000 | 0.0302 |
| 0.7 | 3500 | 0.0293 |
| 0.8 | 4000 | 0.029 |
| 0.9 | 4500 | 0.0292 |
| 1.0 | 5000 | 0.0287 |
### Framework Versions
- Python: 3.10.14
- Sentence Transformers: 3.0.1
- Transformers: 4.44.0
- PyTorch: 2.4.0
- Accelerate: 0.33.0
- Datasets: 2.21.0
- Tokenizers: 0.19.1
## Citation
### BibTeX
#### Sentence Transformers
```bibtex
@inproceedings{reimers-2019-sentence-bert,
title = "Sentence-BERT: Sentence Embeddings using Siamese BERT-Networks",
author = "Reimers, Nils and Gurevych, Iryna",
booktitle = "Proceedings of the 2019 Conference on Empirical Methods in Natural Language Processing",
month = "11",
year = "2019",
publisher = "Association for Computational Linguistics",
url = "https://arxiv.org/abs/1908.10084",
}
```
#### ContrastiveLoss
```bibtex
@inproceedings{hadsell2006dimensionality,
author={Hadsell, R. and Chopra, S. and LeCun, Y.},
booktitle={2006 IEEE Computer Society Conference on Computer Vision and Pattern Recognition (CVPR'06)},
title={Dimensionality Reduction by Learning an Invariant Mapping},
year={2006},
volume={2},
number={},
pages={1735-1742},
doi={10.1109/CVPR.2006.100}
}
```
<!--
## Glossary
*Clearly define terms in order to be accessible across audiences.*
-->
<!--
## Model Card Authors
*Lists the people who create the model card, providing recognition and accountability for the detailed work that goes into its construction.*
-->
<!--
## Model Card Contact
*Provides a way for people who have updates to the Model Card, suggestions, or questions, to contact the Model Card authors.*
-->