You need to agree to share your contact information to access this model

This repository is publicly accessible, but you have to accept the conditions to access its files and content.

SentenceTransformer based on intfloat/multilingual-e5-base

This is a sentence-transformers model finetuned from intfloat/multilingual-e5-base on the core dataset. It maps sentences & paragraphs to a 768-dimensional dense vector space and can be used for semantic textual similarity, semantic search, paraphrase mining, text classification, clustering, and more.

Model Details

Model Description

Model Type: Sentence Transformer
Base model: intfloat/multilingual-e5-base
Maximum Sequence Length: 512 tokens
Output Dimensionality: 768 dimensions
Similarity Function: Dot Product
Training Dataset:
- core

Model Sources

Documentation: Sentence Transformers Documentation
Repository: Sentence Transformers on GitHub
Hugging Face: Sentence Transformers on Hugging Face

Full Model Architecture

RZTKSentenceTransformer(
  (0): Transformer({'max_seq_length': 512, 'do_lower_case': False}) with Transformer model: XLMRobertaModel 
  (1): Pooling({'word_embedding_dimension': 768, 'pooling_mode_cls_token': False, 'pooling_mode_mean_tokens': True, 'pooling_mode_max_tokens': False, 'pooling_mode_mean_sqrt_len_tokens': False, 'pooling_mode_weightedmean_tokens': False, 'pooling_mode_lasttoken': False, 'include_prompt': True})
  (2): Normalize()
)

Usage

Direct Usage (Sentence Transformers)

First install the Sentence Transformers library:

pip install -U sentence-transformers

Then you can load this model and run inference.

from sentence_transformers import SentenceTransformer

# Download from the 🤗 Hub
model = SentenceTransformer("yklymchuk-rztk/multiple-datasets-e5-master-jina-mnr-4-smartphones-laptops-only-bge")
# Run inference
sentences = [
    'query: виски 0.05',
    'passage: Виски Benriach The Smoky 12 YO 0.05 л 46% (5060716140204) Виски BenRiach EAN 5060716140204 Объем, л 0.05 Крепость 46% Выдержка 12 лет Страна-производитель товара Великобритания Упаковка Без упаковки Вид Виски односолодовый Вкус Торфяной/Дымный (Smoky) Доставка Доставка в магазины ROZETKA',
    'passage: Ноутбук 15.6" HP Pavilion 15t-eg300 (9Q0C3U8) Natural Silver Ноутбуки HP Диагональ экрана 15.6" Процессор Десятиядерный Intel Core i7-1355U (1.7 - 5.0 ГГц) Операционная система Windows 11 Home Цвет Серебристый Разрешение 1920x1080 Тип накопителя SSD Тип экрана IPS Тип видеокарты Интегрированная Страна-производитель товара Китай Объём SSD 1 ТБ Частота обновления экрана 60 Гц Класс Для работы и учебы',
]
embeddings = model.encode(sentences)
print(embeddings.shape)
# [3, 768]

# Get the similarity scores for the embeddings
similarities = model.similarity(embeddings, embeddings)
print(similarities.shape)
# [3, 3]

Evaluation

Metrics

RZTKInformation Retrieval

Datasets: core-uk--matryoshka_dim-768--, core-ru--matryoshka_dim-768--, vespa-uk--matryoshka_dim-768-- and vespa-ru--matryoshka_dim-768--
Evaluated with sentence_transformers_training.evaluation.information_retrieval_evaluator.RZTKInformationRetrievalEvaluator

Metric	core-uk--matryoshka_dim-768--	core-ru--matryoshka_dim-768--	vespa-uk--matryoshka_dim-768--	vespa-ru--matryoshka_dim-768--
dot_accuracy_10	0.9751	0.9698	0.9022	0.8696
dot_precision_10	0.3798	0.3744	0.6467	0.6359
dot_recall_10	0.4521	0.4472	0.2141	0.2037
dot_ndcg_10	0.5582	0.5567	0.7282	0.7125
dot_mrr_10	0.8457	0.8524	0.8402	0.8208
dot_map_60	0.3957	0.3982	0.5265	0.519

RZTKInformation Retrieval

Datasets: core-uk, core-ru, vespa-uk and vespa-ru
Evaluated with sentence_transformers_training.evaluation.information_retrieval_evaluator.RZTKInformationRetrievalEvaluator

Metric	core-uk	core-ru	vespa-uk	vespa-ru
dot_accuracy_10	0.9724	0.9711	0.9022	0.8587
dot_precision_10	0.376	0.3713	0.6489	0.638
dot_precision_60	0.0694	0.0688	0.3976	0.3989
dot_recall_10	0.4469	0.4454	0.2143	0.2021
dot_recall_60	0.4925	0.4891	0.3643	0.3566
dot_ndcg_10	0.5525	0.5535	0.7317	0.7126
dot_mrr_10	0.8402	0.8506	0.8488	0.8168
dot_map_10	0.4059	0.4082	0.6742	0.6581
dot_map_60	0.3918	0.3957	0.5275	0.5179

RZTKInformation Retrieval

Datasets: core-uk--matryoshka_dim-768--, core-ru--matryoshka_dim-768--, vespa-uk--matryoshka_dim-768--, vespa-ru--matryoshka_dim-768--, core-uk--matryoshka_dim-512--, core-ru--matryoshka_dim-512--, vespa-uk--matryoshka_dim-512--, vespa-ru--matryoshka_dim-512--, core-uk--matryoshka_dim-256--, core-ru--matryoshka_dim-256--, vespa-uk--matryoshka_dim-256--, vespa-ru--matryoshka_dim-256--, core-uk--matryoshka_dim-128--, core-ru--matryoshka_dim-128--, vespa-uk--matryoshka_dim-128-- and vespa-ru--matryoshka_dim-128--
Evaluated with sentence_transformers_training.evaluation.information_retrieval_evaluator.RZTKInformationRetrievalEvaluator

Metric	core-uk--matryoshka_dim-768--	core-ru--matryoshka_dim-768--	vespa-uk--matryoshka_dim-768--	vespa-ru--matryoshka_dim-768--	core-uk--matryoshka_dim-512--	core-ru--matryoshka_dim-512--	vespa-uk--matryoshka_dim-512--	vespa-ru--matryoshka_dim-512--	core-uk--matryoshka_dim-256--	core-ru--matryoshka_dim-256--	vespa-uk--matryoshka_dim-256--	vespa-ru--matryoshka_dim-256--	core-uk--matryoshka_dim-128--	core-ru--matryoshka_dim-128--	vespa-uk--matryoshka_dim-128--	vespa-ru--matryoshka_dim-128--
dot_accuracy_1	0.7625	0.7835	0.8261	0.7935	0.7428	0.7638	0.8043	0.8043	0.7021	0.7493	0.8152	0.7391	0.6496	0.6772	0.75	0.6848
dot_precision_1	0.7625	0.7835	0.8261	0.7935	0.7428	0.7638	0.8043	0.8043	0.7021	0.7493	0.8152	0.7391	0.6496	0.6772	0.75	0.6848
dot_recall_1	0.1176	0.1212	0.0636	0.0594	0.1129	0.117	0.0635	0.0594	0.1055	0.1143	0.0629	0.0459	0.0969	0.1012	0.0545	0.041
dot_ndcg_1	0.7625	0.7835	0.8261	0.7935	0.7428	0.7638	0.8043	0.8043	0.7021	0.7493	0.8152	0.7391	0.6496	0.6772	0.75	0.6848
dot_mrr_1	0.7625	0.7835	0.8261	0.7935	0.7428	0.7638	0.8043	0.8043	0.7021	0.7493	0.8152	0.7391	0.6496	0.6772	0.75	0.6848
dot_map_60	0.3918	0.3957	0.5275	0.5179	0.3833	0.3865	0.5213	0.5081	0.3619	0.3703	0.5094	0.4779	0.3223	0.3292	0.4582	0.4284

Sequential

Dataset: full-benchmark
Evaluated with SequentialEvaluator

Metric	Value
avg--matryoshka_dim-768--_dot_accuracy_1	0.7914
avg--matryoshka_dim-768--_dot_precision_1	0.7914
avg--matryoshka_dim-768--_dot_recall_1	0.0904
avg--matryoshka_dim-768--_dot_ndcg_1	0.7914
avg--matryoshka_dim-768--_dot_mrr_1	0.7914
avg--matryoshka_dim-768--_dot_map_60	0.4582
avg--matryoshka_dim-512--_dot_accuracy_1	0.7788
avg--matryoshka_dim-512--_dot_precision_1	0.7788
avg--matryoshka_dim-512--_dot_recall_1	0.0882
avg--matryoshka_dim-512--_dot_ndcg_1	0.7788
avg--matryoshka_dim-512--_dot_mrr_1	0.7788
avg--matryoshka_dim-512--_dot_map_60	0.4498
avg--matryoshka_dim-256--_dot_accuracy_1	0.7514
avg--matryoshka_dim-256--_dot_precision_1	0.7514
avg--matryoshka_dim-256--_dot_recall_1	0.0822
avg--matryoshka_dim-256--_dot_ndcg_1	0.7514
avg--matryoshka_dim-256--_dot_mrr_1	0.7514
avg--matryoshka_dim-256--_dot_map_60	0.4299
avg--matryoshka_dim-128--_dot_accuracy_1	0.6904
avg--matryoshka_dim-128--_dot_precision_1	0.6904
avg--matryoshka_dim-128--_dot_recall_1	0.0734
avg--matryoshka_dim-128--_dot_ndcg_1	0.6904
avg--matryoshka_dim-128--_dot_mrr_1	0.6904
avg--matryoshka_dim-128--_dot_map_60	0.3845

Training Details

Training Dataset

core

Dataset: core
Size: 3,643,240 training samples
Columns: query and text
Approximate statistics based on the first 1000 samples:
query text
type string string
details
min: 7 tokens
mean: 11.05 tokens
max: 44 tokens

min: 13 tokens
mean: 182.47 tokens
max: 512 tokens

	query	text
type	string	string
details	min: 7 tokens mean: 11.05 tokens max: 44 tokens	min: 13 tokens mean: 182.47 tokens max: 512 tokens

Samples:

query	text
`query: samsung galaxy а 32`	passage: Мобільний телефон Samsung Galaxy A32 4/128 GB Lavender Мобільні телефони Samsung Гарантія 12 місяців Кількість мегапікселів основної камери 64 Мп + 8 Мп + 5 Мп + 5 Мп Операційна система Android Колір Lavenda Навігація ГЛОНАСС Навігація BDS Навігація GPS Навігація A-GPS Кількість SIM-карток 2 Частота процесора 2.0 ГГц + 1.8 ГГц Габарити B Дрібний (до 50x150x200 мм) Максимальний обсяг підтримуваної карти пам'яті 1 ТБ Роз'єми USB Type-C Роз'єми 3.5 мм (mini-Jack) Діагональ екрана 6.4 Роздільна здатність дисплея 2400 x 1080 Кількість ядер 2+6 Формат SIM-картки Nano-SIM Тип матриці Super AMOLED Оперативна пам'ять 4 ГБ Вбудована пам'ять 128 ГБ Кількість мегапікселів фронтальної камери 20 Мп Ємність акумулятора 5000 мА·год Формат підтримуваних карт пам'яті MicroSD Кількість вантажних місць 1 Тип ядра Cortex-A75 (64bit) + Cortex-A55 (64bit) Матеріал корпусу Пластик Відеоядро ARM Mali-G52 MC2 Стандарт зв'язку 2G (GPRS/EDGE) Стандарт зв'язку 4G (LTE) Стандарт зв'язку 3G (WCDMA/UMTS/HSPA...
`query: samsung galaxy а 32`	passage: Мобильный телефон Samsung Galaxy A32 4/128GB Lavender Мобильные телефоны Samsung Гарантия 12 месяцев Количество мегапикселей основной камеры 64 Мп + 8 Мп + 5 Мп + 5 Мп Операционная система Android Цвет Lavenda Навигация ГЛОНАСС Навигация BDS Навигация GPS Навигация A-GPS Количество SIM-карт 2 Частота процессора 2.0 ГГц + 1.8 ГГц Габариты_old B Мелкий (до 50x150x200 мм) Максимальный объем поддерживаемой карты памяти 1 ТБ Разъемы USB Type-C Разъемы 3.5 мм (mini-Jack) Диагональ экрана 6.4 Разрешение дисплея 2400 x 1080 Количество ядер 2+6 Формат SIM-карты Nano-SIM Тип матрицы Super AMOLED Оперативная память 4 ГБ Встроенная память 128 ГБ Количество мегапикселей фронтальной камеры 20 Мп Емкость аккумулятора 5000 мА*ч Формат поддерживаемых карт памяти MicroSD Количество грузовых мест 1 Тип ядра Cortex-A75 (64bit) + Cortex-A55 (64bit) Материал корпуса Пластик Видеоядро ARM Mali-G52 MC2 Стандарт связи 2G (GPRS/EDGE) Стандарт связи 4G (LTE) Стандарт связи 3G (WCDMA/UMTS/HSPA) Страна ре...
`query: чехол самсунг а 32`	`passage: Шкіряна накладка Stenk Reptile Cover для Samsung Galaxy A32 Чорна (70194) Чохли для мобільних телефонів Stenk Гарантія 3 місяці Матеріал Шкіра + пластик Колір Black Форм-фактор Бампер Країна-виробник товару Україна`

Loss: sentence_transformers_training.model.matryoshka2d_loss.RZTKMatryoshka2dLoss with these parameters:

{
    "loss": "RZTKMultipleNegativesRankingLoss",
    "n_layers_per_step": 1,
    "last_layer_weight": 1.0,
    "prior_layers_weight": 1.0,
    "kl_div_weight": 1.0,
    "kl_temperature": 0.3,
    "matryoshka_dims": [
        768,
        512,
        256,
        128
    ],
    "matryoshka_weights": [
        1,
        1,
        1,
        1
    ],
    "n_dims_per_step": 1
}

Evaluation Datasets

core_uk

Dataset: core_uk
Size: 3,220 evaluation samples
Columns: query and text
Approximate statistics based on the first 1000 samples:
query text
type string string
details
min: 8 tokens
mean: 10.66 tokens
max: 16 tokens

min: 19 tokens
mean: 114.2 tokens
max: 512 tokens

	query	text
type	string	string
details	min: 8 tokens mean: 10.66 tokens max: 16 tokens	min: 19 tokens mean: 114.2 tokens max: 512 tokens

Samples:

query	text
`query: лампочка е27`	passage: Світлодіодна лампа Osram LED Star+ DIM A60 9W (806Lm) Е27 (4058075430754) Лампи OSRAM Гарантія 36 місяців Виробник світлодіодів Osram Тип світлодіодів SMD Тип цоколя E27 Колір світіння / Температура кольорів RGB (різнокольоровий) Колір світіння / Температура кольорів Теплий білий Світловий потік 806 Лм Еквівалент потужності лампи розжарювання 60 Вт Робоча напруга, в 230 Тип Світлодіодні лампи Форма колби Стандартна (груша) Колір колби Матовий Кількість вантажних місць 1 Країна реєстрації бренда Німеччина Кількість предметів, шт 1 Країна-виробник товару Китай Особливості З дистанційним управлінням Особливості З регулюванням яскравості (димер) Строк служби лампи, год 25000 теги лампи недорого Тип гарантійного талона Гарантія по чеку Потужність, Вт 9 Можливість доставки Почтомати Доставка Premium Доставка Доставка в магазини ROZETKA
`query: лампочка е27`	passage: Світлодіодна лампа Philips Ecohome LED Bulb 11 W E27 3000 K 1PF/20RCA (929002299567R) 2 шт. Лампи Philips Гарантія 24 місяці Тип цоколя E27 Колір світіння / Температура кольорів Теплий Світловий потік 1150 Лм Еквівалент потужності лампи розжарювання 95 Вт Робоча напруга, в 170-240 Тип Світлодіодні лампи Форма колби Стандартна (груша) Колір колби Білий Кількість вантажних місць 1 Країна реєстрації бренда Нідерланди Кількість предметів, шт 2 Країна-виробник товару Китай Строк служби лампи, год теги лампи недорого Тип гарантійного талона Гарантійний талон магазина Потужність, Вт 11 Застосування Побутові Призначення Для настільної лампи Призначення Для люстри Призначення Для стельових світильників Температура світіння 3000 К Матеріал колби Пластик Доставка Premium Доставка Доставка в магазини ROZETKA
`query: лампочка е27`	passage: Набір світлодіодних ламп Евросвет 12 W 4200 K Е27 (56702) 4 шт. Лампи Євросвітло Гарантія 12 місяців Тип світлодіодів SMD Тип цоколя E27 Колір світіння / Температура кольорів Нейтральний-білий Світловий потік 1200 Лм Еквівалент потужності лампи розжарювання 120 Вт Робоча напруга, в 220-240 Тип Світлодіодні лампи Форма колби Стандартна (груша) Кількість вантажних місць 1 Країна реєстрації бренда Україна Кількість предметів, шт 4 Країна-виробник товару Китай Строк служби лампи, год 15000 теги лампи недорого Тип гарантійного талона Гарантія по чеку Потужність, Вт 12 Застосування Побутові Призначення Для настільної лампи Призначення Для люстри Призначення Для стельових світильників Температура світіння 4200К Матеріал колби Пластик Доставка Готовий до відправлення Доставка Доставка в магазини ROZETKA

Loss: sentence_transformers_training.model.matryoshka2d_loss.RZTKMatryoshka2dLoss with these parameters:

{
    "loss": "RZTKMultipleNegativesRankingLoss",
    "n_layers_per_step": 1,
    "last_layer_weight": 1.0,
    "prior_layers_weight": 1.0,
    "kl_div_weight": 1.0,
    "kl_temperature": 0.3,
    "matryoshka_dims": [
        768,
        512,
        256,
        128
    ],
    "matryoshka_weights": [
        1,
        1,
        1,
        1
    ],
    "n_dims_per_step": 1
}

core_ru

Dataset: core_ru
Size: 3,220 evaluation samples
Columns: query and text
Approximate statistics based on the first 1000 samples:
query text
type string string
details
min: 8 tokens
mean: 10.66 tokens
max: 16 tokens

min: 18 tokens
mean: 109.38 tokens
max: 512 tokens

	query	text
type	string	string
details	min: 8 tokens mean: 10.66 tokens max: 16 tokens	min: 18 tokens mean: 109.38 tokens max: 512 tokens

Samples:

query	text
`query: лампочка е27`	passage: Светодиодная лампа Osram LED Star+ DIM A60 9W (806Lm) Е27 (4058075430754) Лампы OSRAM Гарантия 36 месяцев Производитель светодиодов Osram Тип светодиодов SMD Тип цоколя E27 Цвет свечения / Цветовая температура RGB (разноцветный) Цвет свечения / Цветовая температура Теплый белый Световой поток 806 Лм Эквивалент мощности лампы накаливания 60 Вт Рабочее напряжение, В 230 Тип Светодиодные лампы Форма колбы Стандартная (груша) Цвет колбы Матовый Количество грузовых мест 1 Страна регистрации бренда Германия Количество предметов, шт 1 Страна-производитель товара Китай Особенности С дистанционным управлением Особенности С регулировкой яркости (диммер) Срок службы лампы, ч 25000 теги лампы недорого Тип гарантийного талона Гарантия по чеку Мощность, Вт 9 Возможность доставки Почтоматы Доставка Premium Доставка Доставка в магазины ROZETKA
`query: лампочка е27`	passage: Светодиодная лампа Philips Ecohome LED Bulb 11W E27 3000К 1PF/20RCA (929002299567R) 2 шт. Лампы Philips Гарантия 24 месяца Тип цоколя E27 Цвет свечения / Цветовая температура Теплый Световой поток 1150 Лм Эквивалент мощности лампы накаливания 95 Вт Рабочее напряжение, В 170-240 Тип Светодиодные лампы Форма колбы Стандартная (груша) Цвет колбы Белый Количество грузовых мест 1 Страна регистрации бренда Нидерланды Количество предметов, шт 2 Страна-производитель товара Китай Срок службы лампы, ч 6000 теги лампы недорого Тип гарантийного талона Гарантийный талон магазина Мощность, Вт 11 Применение Бытовые Назначение Для настольной лампы Назначение Для люстры Назначение Для потолочных светильников Температура свечения 3000К Материал колбы Пластик Доставка Premium Доставка Доставка в магазины ROZETKA
`query: лампочка е27`	passage: Набор светодиодных ламп ЕВРОСВЕТ 12W 4200к Е27 (56702) 4 шт Лампы Євросвітло Гарантия 12 месяцев Тип светодиодов SMD Тип цоколя E27 Цвет свечения / Цветовая температура Нейтральный-белый Световой поток 1200 Лм Эквивалент мощности лампы накаливания 120 Вт Рабочее напряжение, В 220-240 Тип Светодиодные лампы Форма колбы Стандартная (груша) Количество грузовых мест 1 Страна регистрации бренда Украина Количество предметов, шт 4 Страна-производитель товара Китай Срок службы лампы, ч 15000 теги лампы недорого Тип гарантийного талона Гарантия по чеку Мощность, Вт 12 Применение Бытовые Назначение Для настольной лампы Назначение Для люстры Назначение Для потолочных светильников Температура свечения 4200К Материал колбы Пластик Доставка Готов к отправке Доставка Доставка в магазины ROZETKA

Loss: sentence_transformers_training.model.matryoshka2d_loss.RZTKMatryoshka2dLoss with these parameters:

{
    "loss": "RZTKMultipleNegativesRankingLoss",
    "n_layers_per_step": 1,
    "last_layer_weight": 1.0,
    "prior_layers_weight": 1.0,
    "kl_div_weight": 1.0,
    "kl_temperature": 0.3,
    "matryoshka_dims": [
        768,
        512,
        256,
        128
    ],
    "matryoshka_weights": [
        1,
        1,
        1,
        1
    ],
    "n_dims_per_step": 1
}

vespa_uk

Dataset: vespa_uk
Size: 5,315 evaluation samples
Columns: query and text
Approximate statistics based on the first 1000 samples:
query text
type string string
details
min: 7 tokens
mean: 9.58 tokens
max: 22 tokens

min: 19 tokens
mean: 89.9 tokens
max: 239 tokens

	query	text
type	string	string
details	min: 7 tokens mean: 9.58 tokens max: 22 tokens	min: 19 tokens mean: 89.9 tokens max: 239 tokens

Samples:

query	text
`query: шланга диаметром 32 мм для викачки брудної води з басейну`	`passage: Перехідники для шлангу басейну Intex з 32 мм на 38 мм (IP-175136) Обладнання для басейнів Intex Вид Комплектувальні`
`query: шланга диаметром 32 мм для викачки брудної води з басейну`	`passage: З'єднання для шланга Peraqua діаметр 32 мм Аксесуари для басейнів Вид Інструменти для прибирання басейнів`
`query: шланга диаметром 32 мм для викачки брудної води з басейну`	`passage: З'єднання для шлангу Peraqua діаметр 32/38 мм Аксесуари для басейнів Вид Інструменти для прибирання басейнів`

Loss: sentence_transformers_training.model.matryoshka2d_loss.RZTKMatryoshka2dLoss with these parameters:

{
    "loss": "RZTKMultipleNegativesRankingLoss",
    "n_layers_per_step": 1,
    "last_layer_weight": 1.0,
    "prior_layers_weight": 1.0,
    "kl_div_weight": 1.0,
    "kl_temperature": 0.3,
    "matryoshka_dims": [
        768,
        512,
        256,
        128
    ],
    "matryoshka_weights": [
        1,
        1,
        1,
        1
    ],
    "n_dims_per_step": 1
}

vespa_ru

Dataset: vespa_ru
Size: 5,315 evaluation samples
Columns: query and text
Approximate statistics based on the first 1000 samples:
query text
type string string
details
min: 7 tokens
mean: 9.58 tokens
max: 22 tokens

min: 20 tokens
mean: 87.33 tokens
max: 232 tokens

	query	text
type	string	string
details	min: 7 tokens mean: 9.58 tokens max: 22 tokens	min: 20 tokens mean: 87.33 tokens max: 232 tokens

Samples:

query	text
`query: шланга диаметром 32 мм для викачки брудної води з басейну`	`passage: Переходники для шланга бассейна Intex с 32 мм на 38 мм (IP-175136) Оборудование для бассейнов Intex Вид Комплектующие`
`query: шланга диаметром 32 мм для викачки брудної води з басейну`	`passage: Соединение для шланга Peraqua диаметр 32 мм Аксессуары для бассейнов Вид Инструменты для уборки бассейнов`
`query: шланга диаметром 32 мм для викачки брудної води з басейну`	`passage: Соединение для шланга Peraqua диаметр 32/38 мм Аксессуары для бассейнов Вид Инструменты для уборки бассейнов`

Loss: sentence_transformers_training.model.matryoshka2d_loss.RZTKMatryoshka2dLoss with these parameters:

{
    "loss": "RZTKMultipleNegativesRankingLoss",
    "n_layers_per_step": 1,
    "last_layer_weight": 1.0,
    "prior_layers_weight": 1.0,
    "kl_div_weight": 1.0,
    "kl_temperature": 0.3,
    "matryoshka_dims": [
        768,
        512,
        256,
        128
    ],
    "matryoshka_weights": [
        1,
        1,
        1,
        1
    ],
    "n_dims_per_step": 1
}

Training Hyperparameters

Non-Default Hyperparameters

eval_strategy: steps
per_device_train_batch_size: 80
per_device_eval_batch_size: 16
learning_rate: 2e-05
warmup_ratio: 0.1
bf16: True
bf16_full_eval: True
tf32: True
dataloader_num_workers: 4
load_best_model_at_end: True
optim: adafactor
push_to_hub: True
hub_model_id: yklymchuk-rztk/multiple-datasets-e5-master-jina-mnr-4-smartphones-laptops-only-bge
hub_private_repo: True
prompts: {'query': 'query: ', 'text': 'passage: '}
batch_sampler: no_duplicates

All Hyperparameters

Click to expand

overwrite_output_dir: False
do_predict: False
eval_strategy: steps
prediction_loss_only: True
per_device_train_batch_size: 80
per_device_eval_batch_size: 16
per_gpu_train_batch_size: None
per_gpu_eval_batch_size: None
gradient_accumulation_steps: 1
eval_accumulation_steps: None
torch_empty_cache_steps: None
learning_rate: 2e-05
weight_decay: 0.0
adam_beta1: 0.9
adam_beta2: 0.999
adam_epsilon: 1e-08
max_grad_norm: 1.0
num_train_epochs: 3
max_steps: -1
lr_scheduler_type: linear
lr_scheduler_kwargs: {}
warmup_ratio: 0.1
warmup_steps: 0
log_level: passive
log_level_replica: warning
log_on_each_node: True
logging_nan_inf_filter: True
save_safetensors: True
save_on_each_node: False
save_only_model: False
restore_callback_states_from_checkpoint: False
no_cuda: False
use_cpu: False
use_mps_device: False
seed: 42
data_seed: None
jit_mode_eval: False
use_ipex: False
bf16: True
fp16: False
fp16_opt_level: O1
half_precision_backend: auto
bf16_full_eval: True
fp16_full_eval: False
tf32: True
local_rank: 0
ddp_backend: None
tpu_num_cores: None
tpu_metrics_debug: False
debug: []
dataloader_drop_last: True
dataloader_num_workers: 4
dataloader_prefetch_factor: None
past_index: -1
disable_tqdm: False
remove_unused_columns: True
label_names: None
load_best_model_at_end: True
ignore_data_skip: False
fsdp: []
fsdp_min_num_params: 0
fsdp_config: {'min_num_params': 0, 'xla': False, 'xla_fsdp_v2': False, 'xla_fsdp_grad_ckpt': False}
fsdp_transformer_layer_cls_to_wrap: None
accelerator_config: {'split_batches': False, 'dispatch_batches': None, 'even_batches': True, 'use_seedable_sampler': True, 'non_blocking': False, 'gradient_accumulation_kwargs': None}
deepspeed: None
label_smoothing_factor: 0.0
optim: adafactor
optim_args: None
adafactor: False
group_by_length: False
length_column_name: length
ddp_find_unused_parameters: None
ddp_bucket_cap_mb: None
ddp_broadcast_buffers: False
dataloader_pin_memory: True
dataloader_persistent_workers: False
skip_memory_metrics: True
use_legacy_prediction_loop: False
push_to_hub: True
resume_from_checkpoint: None
hub_model_id: yklymchuk-rztk/multiple-datasets-e5-master-jina-mnr-4-smartphones-laptops-only-bge
hub_strategy: every_save
hub_private_repo: True
hub_always_push: False
gradient_checkpointing: False
gradient_checkpointing_kwargs: None
include_inputs_for_metrics: False
include_for_metrics: []
eval_do_concat_batches: True
fp16_backend: auto
push_to_hub_model_id: None
push_to_hub_organization: None
mp_parameters:
auto_find_batch_size: False
full_determinism: False
torchdynamo: None
ray_scope: last
ddp_timeout: 1800
torch_compile: False
torch_compile_backend: None
torch_compile_mode: None
dispatch_batches: None
split_batches: None
include_tokens_per_second: False
include_num_input_tokens_seen: False
neftune_noise_alpha: None
optim_target_modules: None
batch_eval_metrics: False
eval_on_start: False
use_liger_kernel: False
eval_use_gather_object: False
average_tokens_across_devices: False
prompts: {'query': 'query: ', 'text': 'passage: '}
batch_sampler: no_duplicates
multi_dataset_batch_sampler: proportional
ddp_static_graph: False
ddp_comm_hook: bf16
gradient_as_bucket_view: False
num_proc: 30

Training Logs

Click to expand

Epoch	Step	Training Loss	core uk loss	core ru loss	vespa uk loss	vespa ru loss	core-uk--matryoshka_dim-768--_dot_ndcg_10	core-ru--matryoshka_dim-768--_dot_ndcg_10	vespa-uk--matryoshka_dim-768--_dot_ndcg_10	vespa-ru--matryoshka_dim-768--_dot_ndcg_10	core-uk_dot_ndcg_10	core-ru_dot_ndcg_10	vespa-uk_dot_ndcg_10	vespa-ru_dot_ndcg_10	core-uk--matryoshka_dim-768--_dot_ndcg_1	core-ru--matryoshka_dim-768--_dot_ndcg_1	vespa-uk--matryoshka_dim-768--_dot_ndcg_1	vespa-ru--matryoshka_dim-768--_dot_ndcg_1	core-uk--matryoshka_dim-512--_dot_ndcg_1	core-ru--matryoshka_dim-512--_dot_ndcg_1	vespa-uk--matryoshka_dim-512--_dot_ndcg_1	vespa-ru--matryoshka_dim-512--_dot_ndcg_1	core-uk--matryoshka_dim-256--_dot_ndcg_1	core-ru--matryoshka_dim-256--_dot_ndcg_1	vespa-uk--matryoshka_dim-256--_dot_ndcg_1	vespa-ru--matryoshka_dim-256--_dot_ndcg_1	core-uk--matryoshka_dim-128--_dot_ndcg_1	core-ru--matryoshka_dim-128--_dot_ndcg_1	vespa-uk--matryoshka_dim-128--_dot_ndcg_1	vespa-ru--matryoshka_dim-128--_dot_ndcg_1
0.0150	171	4.8815	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.0300	342	4.7989	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.0451	513	4.6703	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.0601	684	4.3708	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.0751	855	3.9126	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.0901	1026	3.4363	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.1051	1197	3.3903	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.1202	1368	3.1453	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.1352	1539	2.9609	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.1502	1710	3.25	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.1652	1881	3.4664	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.1802	2052	3.0227	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.1953	2223	3.1849	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.2103	2394	3.1203	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.2253	2565	3.4856	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.2403	2736	3.0114	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.2553	2907	2.9712	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.2704	3078	2.9328	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.2854	3249	3.0364	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.3000	3416	-	0.7895	0.7883	0.7104	0.6684	0.5562	0.5594	0.7497	0.7335	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.3004	3420	2.9099	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.3154	3591	2.9371	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.3304	3762	2.8795	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.3455	3933	2.8618	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.3605	4104	2.6409	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.3755	4275	2.4761	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.3905	4446	2.5517	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.4055	4617	2.6039	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.4206	4788	2.6123	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.4356	4959	2.4889	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.4506	5130	2.3629	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.4656	5301	2.485	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.4806	5472	2.3706	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.4957	5643	2.2297	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.5107	5814	2.2416	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.5257	5985	2.2391	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.5407	6156	2.3555	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.5557	6327	2.1122	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.5708	6498	2.0277	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.5858	6669	1.9442	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.6001	6832	-	0.6503	0.7511	0.5975	0.6276	0.5515	0.5492	0.7135	0.7088	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.6008	6840	2.5626	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.6158	7011	1.7541	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.6308	7182	1.7344	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.6458	7353	1.677	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.6609	7524	2.3899	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.6759	7695	1.4458	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.6909	7866	1.4438	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.7059	8037	1.5253	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.7209	8208	2.1335	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.7360	8379	1.2515	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.7510	8550	1.2032	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.7660	8721	1.6024	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.7810	8892	1.3593	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.7960	9063	0.9556	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.8111	9234	0.8699	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.8261	9405	2.0567	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.8411	9576	2.3785	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.8561	9747	2.4674	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.8711	9918	2.5772	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.8862	10089	2.1321	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.9001	10248	-	0.6605	0.6752	0.4968	0.5497	0.5417	0.5375	0.7366	0.7203	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.9012	10260	2.2203	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.9162	10431	2.2436	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.9312	10602	2.2924	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.9462	10773	1.9894	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.9613	10944	2.4477	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.9763	11115	2.1592	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.9913	11286	2.2138	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.0066	11457	2.2892	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.0216	11628	2.0675	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.0366	11799	2.2831	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.0516	11970	2.3235	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.0667	12141	2.2017	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.0817	12312	2.0887	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.0967	12483	2.1544	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.1117	12654	2.127	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.1267	12825	1.9884	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.1418	12996	2.0668	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.1568	13167	2.6611	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.1718	13338	2.895	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.1868	13509	2.5433	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.2004	13664	-	0.6097	0.6090	0.5006	0.4472	0.5632	0.5605	0.7399	0.7192	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.2018	13680	2.5165	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.2169	13851	2.61	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.2319	14022	2.8094	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.2469	14193	2.3961	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.2619	14364	2.5161	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.2769	14535	2.4714	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.2920	14706	2.4905	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.3070	14877	2.3916	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.3220	15048	2.3778	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.3370	15219	2.4896	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.3520	15390	2.5094	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.3671	15561	2.1941	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.3821	15732	2.1271	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.3971	15903	2.2639	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.4121	16074	2.1684	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.4271	16245	2.305	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.4422	16416	2.0475	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.4572	16587	2.0399	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.4722	16758	2.3481	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.4872	16929	1.9964	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.5005	17080	-	0.5838	0.6217	0.4956	0.5935	0.5533	0.5539	0.7317	0.7126	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.5022	17100	1.8367	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.5173	17271	1.9701	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.5323	17442	2.1245	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.5473	17613	1.8113	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.5623	17784	1.7472	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.5773	17955	1.7751	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.5924	18126	1.8819	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.6074	18297	2.0858	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.6224	18468	1.5174	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.6374	18639	1.3958	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.6524	18810	1.8706	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.6675	18981	1.6855	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.6825	19152	1.2935	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.6975	19323	1.231	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.7125	19494	1.9399	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.7275	19665	1.4677	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.7426	19836	1.1166	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.7576	20007	1.0152	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.7726	20178	1.7664	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.7876	20349	0.9312	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.8005	20496	-	0.6786	0.6803	0.4832	0.5576	0.5264	0.5290	0.7175	0.7007	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.8026	20520	0.8497	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.8177	20691	0.8657	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.8327	20862	2.4357	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.8477	21033	2.1994	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.8627	21204	2.4847	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.8777	21375	2.2574	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.8928	21546	1.9649	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.9078	21717	2.0678	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.9228	21888	1.9762	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.9378	22059	2.086	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.9528	22230	2.0651	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.9679	22401	2.1597	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.9829	22572	1.9966	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.9979	22743	2.1015	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
2.0132	22914	2.1254	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
2.0282	23085	1.9533	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
2.0432	23256	2.205	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
2.0582	23427	2.1923	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
2.0733	23598	2.112	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
2.0883	23769	2.0134	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
2.1008	23912	-	0.6565	0.6483	0.4945	0.5825	0.5572	0.5570	0.7247	0.7089	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
2.1033	23940	2.0189	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
2.1183	24111	1.9411	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
2.1333	24282	2.0481	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
2.1484	24453	2.2526	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
2.1634	24624	2.7405	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
2.1784	24795	2.3387	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
2.1934	24966	2.7284	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
2.2084	25137	2.4959	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
2.2235	25308	2.9073	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
2.2385	25479	2.4306	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
2.2535	25650	2.3857	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
2.2685	25821	2.5283	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
2.2835	25992	2.4196	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
2.2986	26163	2.4788	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
2.3136	26334	2.3292	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
2.3286	26505	2.3066	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
2.3436	26676	2.4728	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
2.3586	26847	2.281	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
2.3736	27018	2.0795	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
2.3887	27189	2.2058	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
2.4009	27328	-	0.6111	0.5927	0.5025	0.5314	0.5582	0.5567	0.7282	0.7125	0.5525	0.5535	0.7317	0.7126	0.7625	0.7835	0.8261	0.7935	0.7428	0.7638	0.8043	0.8043	0.7021	0.7493	0.8152	0.7391	0.6496	0.6772	0.75	0.6848

The bold row denotes the saved checkpoint.

Framework Versions

Python: 3.11.10
Sentence Transformers: 3.3.0
Transformers: 4.46.3
PyTorch: 2.5.1+cu124
Accelerate: 1.1.1
Datasets: 3.1.0
Tokenizers: 0.20.3

Citation

BibTeX

Sentence Transformers

@inproceedings{reimers-2019-sentence-bert,
    title = "Sentence-BERT: Sentence Embeddings using Siamese BERT-Networks",
    author = "Reimers, Nils and Gurevych, Iryna",
    booktitle = "Proceedings of the 2019 Conference on Empirical Methods in Natural Language Processing",
    month = "11",
    year = "2019",
    publisher = "Association for Computational Linguistics",
    url = "https://arxiv.org/abs/1908.10084",
}