SentenceTransformer based on intfloat/multilingual-e5-base

Model Details

Model Description

• Model Type: Sentence Transformer
• Base model: intfloat/multilingual-e5-base
• Maximum Sequence Length: 512 tokens
• Output Dimensionality: 768 dimensions
• Similarity Function: Cosine Similarity
• Training Dataset:
  • json

Model Sources

• Documentation: Sentence Transformers Documentation
• Repository: Sentence Transformers on GitHub
• Hugging Face: Sentence Transformers on Hugging Face

Full Model Architecture

SentenceTransformer(
  (0): Transformer({'max_seq_length': 512, 'do_lower_case': False}) with Transformer model: XLMRobertaModel 
  (1): Pooling({'word_embedding_dimension': 768, 'pooling_mode_cls_token': False, 'pooling_mode_mean_tokens': True, 'pooling_mode_max_tokens': False, 'pooling_mode_mean_sqrt_len_tokens': False, 'pooling_mode_weightedmean_tokens': False, 'pooling_mode_lasttoken': False, 'include_prompt': True})
  (2): Normalize()
)

Usage

Direct Usage (Sentence Transformers)

Evaluation

Metrics

Binary Classification

• Evaluated with BinaryClassificationEvaluator

Training Details

Training Dataset

json

• Dataset: json
• Size: 276,686 training samples
• Columns: sentence1, sentence2, and label
• Approximate statistics based on the first 1000 samples:

  	sentence1	sentence2	label
  type	string	string	int
  details	min: 445 tokens mean: 510.97 tokens max: 512 tokens	min: 454 tokens mean: 511.61 tokens max: 512 tokens	1: 100.00%

• Samples:

  sentence1	sentence2	label
  query: Что что-то не так, интуиция подсказывала Занзасу с самого утра. Благополучно проигнорировав пробуждение с лигром в постели, Бестер периодически спал рядом с хозяином. Занзас лениво но, как известно организму не откажешь, спустился на кухню. Относительно спокойно поев, и избавившись от новоявленного трупа, который пролил на него подливу к мясу, босс всея варии отправился в душ. Быстро вымывшись и обвязав короткое полотенце на бедрах, он вернулся в свою спальню и прилег на кровать рядом с лигром. Немного потрепав его гриву, брюнет разлегся на кровати. Животное же вспомнило, как длинноволосый парень использовал его хозяина как самку. А Бестер по характеру был очень похож на Занзаса собственничеством, по этой причине зверь встал, потоптался на постели и забрался на своего хозяина. Занзас вновь не придал этому значения, принимая за попытку ленивого животного слезть с кровати. Это и было его ошибкой. Своим немалым весом Бестер придавил мужчину к постели, и отдельно придавил одной лапо...	query: Аомине неспешно шел в сторону школы Сейрин. Уроки еще шли, поэтому ему было некуда торопиться, а свои он благополучно прое...кхм, пропустил, дабы наведаться к Кагами. Зачем, он и сам до конца не понимал, но привык следовать своим желаниям и кормить внутренних демонов. В наушниках играла незатейливая мелодия на английском, а сам Аомине не заморачивался текстом, наслаждаясь звучанием музыки и голосом певца.[object Object]Войдя во двор, он огляделся, ища вход в учебный корпус. Найдя же нужную дверь, он прошел внутрь, подходя к расписанию. Проведя пальцем по цифре нужного класса, он взглянул на сами уроки.[object Object]-Хм, японский... Не думаю, что он будет против, если я его отмажу. - И, по акульи улыбнувшись, парень направился на второй этаж, к кабинету номер тринадцать. Предварительно заглянув в замочную скважину, увидев молоденькую учительницу и выглядывающую из-под блузки татуировку "I love yaoi", в очередной раз оскалился и прошел в кабинет. Девушка не успела даже пикнуть, как он был у парты Кагами. На...	1
  query: Что что-то не так, интуиция подсказывала Занзасу с самого утра. Благополучно проигнорировав пробуждение с лигром в постели, Бестер периодически спал рядом с хозяином. Занзас лениво но, как известно организму не откажешь, спустился на кухню. Относительно спокойно поев, и избавившись от новоявленного трупа, который пролил на него подливу к мясу, босс всея варии отправился в душ. Быстро вымывшись и обвязав короткое полотенце на бедрах, он вернулся в свою спальню и прилег на кровать рядом с лигром. Немного потрепав его гриву, брюнет разлегся на кровати. Животное же вспомнило, как длинноволосый парень использовал его хозяина как самку. А Бестер по характеру был очень похож на Занзаса собственничеством, по этой причине зверь встал, потоптался на постели и забрался на своего хозяина. Занзас вновь не придал этому значения, принимая за попытку ленивого животного слезть с кровати. Это и было его ошибкой. Своим немалым весом Бестер придавил мужчину к постели, и отдельно придавил одной лапо...	query: Аомине был ангелом уже очень давно. Он даже не помнил сколько лет, даже веков прошло с того момента. Он любил сидя на одном из облаков наблюдать за Землей, а особенно осенью. И это был обычный день, но Аомине захотелось посмотреть поближе. Раскрыв огромные крылья, он устремился камнем вниз. Для людей это выглядело как упавшая звезда, яркая линия в небе. Никто не знал, что все эти линии чертились падающими ангелами, лишь поэтому желания, которые было принято загадывать, исполнялись. На большой скорости молодой ангел приземлился. Когда облако пыли рассеялось, стало видно, что он стоит на одном колене, упираясь руками в землю. Сложив свои крылья, он скрыл их от человеческих глаз, его одежда всегда была как земная, и сейчас тоже. Белая борцовка, расстегнутая бледно голубая рубашка без рукавов и темно синие джинсы. Заинтересованно смотря по сторонам, он побрел в сторону города, мимо ехали машины, но он их не замечал. Зайдя в город, он был почти ослеплен неоновыми вывесками и многочис...	1
  query: Что что-то не так, интуиция подсказывала Занзасу с самого утра. Благополучно проигнорировав пробуждение с лигром в постели, Бестер периодически спал рядом с хозяином. Занзас лениво но, как известно организму не откажешь, спустился на кухню. Относительно спокойно поев, и избавившись от новоявленного трупа, который пролил на него подливу к мясу, босс всея варии отправился в душ. Быстро вымывшись и обвязав короткое полотенце на бедрах, он вернулся в свою спальню и прилег на кровать рядом с лигром. Немного потрепав его гриву, брюнет разлегся на кровати. Животное же вспомнило, как длинноволосый парень использовал его хозяина как самку. А Бестер по характеру был очень похож на Занзаса собственничеством, по этой причине зверь встал, потоптался на постели и забрался на своего хозяина. Занзас вновь не придал этому значения, принимая за попытку ленивого животного слезть с кровати. Это и было его ошибкой. Своим немалым весом Бестер придавил мужчину к постели, и отдельно придавил одной лапо...	query: Тсунаеши лежал на постели в одном шелковом халате, ожидая прихода своего парня. Когда дверь отрылась, он развратно развел ножки и принялся вылизывать свои пальцы.[object Object]-Д-д-джудайме! Что Вы делаете?![object Object]-Мммм, Хааааято, я тебя так хочу! - Изнывая от желания, произнес Савада.[object Object]-Да Вы что... Как я могу? - Тот покраснел и отвернулся.[object Object]-Знаешь что, Гокудера... - Голос стал сердитым. - Мы расстаемся! - И не дав подрывнику и слова сказать, Савада завязал пояс халата и, обувшись, покинул квартиру. Он быстро добрался до своей машины и, сев в нее, не менее быстро добрался до съемной квартиры Скуало. Потарабанив в дверь всего минуту, он ворвался в коридор и на недоуменный взгляд Скуало скинул халатик.[object Object]-Врооой, Савада, ты че творишь? - Суперби пытался собрать челюсть с пола, а сам Десятый оперся руками на стену, прогнул спинку и, расставив ножки потребовал.[object Object]-Трахни меня![object Object]-Чего? Ты пьяный что ли? - Челюсть мечника во второй раз познакомилась с полом.[object Object]-Просто вставь. Мне можно без смазки и гандонов. -...	1

• Loss: MultipleNegativesRankingLoss with these parameters:
  json

  1{ 2 "scale": 100, 3 "similarity_fct": "cos_sim" 4}

Evaluation Dataset

json

• Dataset: json
• Size: 184,428 evaluation samples
• Columns: sentence1, sentence2, and label
• Approximate statistics based on the first 1000 samples:

  	sentence1	sentence2	label
  type	string	string	int
  details	min: 432 tokens mean: 510.2 tokens max: 512 tokens	min: 409 tokens mean: 510.42 tokens max: 512 tokens	1: 100.00%

• Samples:

  sentence1	sentence2	label
  query: Дело было вечером, когда я отправлялась в гости к Мартине. Я взяла с собой Факундо, и Ксаби. Это мои сумасшедшие, но лучшие друзья. Короче коротко: Я - Лодовика, но можно просто Лодо.[object Object]Так как Тина живёт на 9 этаже, нам пришлось ехать на лифте, иначе на лестнице мы бы подохли. Короче заходим в лифт, и вот мы уже на нужном нам этаже.[object Object]Дверки открылись, я отвернулась на минутку. А потом повернулась, смотрю а этих идиотов нету. Вдруг дверки закрылись, я девушка не пугливая но, чёрт а вдруг я тут застряну?[object Object]- Придурки, блин! Откройте лифт! Застряну ведь![object Object]В ответ я услышала лишь смех двух парней. Ну! Им не поздоровится когда я отсюда выйду.[object Object]Вдруг, дверки открылись, я вылезла из лифта, и эти дебилы насильно затаскивают меня в лифт, и жмут на кнопку, чтобы лифт поехал до 1 этажа.[object Object]- Быстрее! Факу! Надо быстрее Лодо спуститься на 1 этаж! - Закричал Ксабьяни.[object Object]- Понял! - В ответ крикнул Факундо.[object Object]Тут дверки закрылись, и меня понесло на 1 этаж. Через несколько минут я спустилась на нужный этаж,...	query: Я - Иккинг. Сын вождя, первый который приручил дракона.[object Object]У меня есть любимая девушка, но я давно её не видел. Последние новости меня привели в ужас.[object Object]Громгильда, дракониха, погибла. А Астрид не перенесла её смерти, и повесилась...[object Object]Мое сердце разбилось на сто осколков, моя единственная любовь погибла.[object Object]Говорят что викинги бессердечные, но это не так. Мы тоже умеем любить![object Object]Раннее утро. Все викинги ещё спят, за окном холодно, солнце, но ветер всё же есть.[object Object]Я приоткрыл глаза, и заметил, что моя любимая рептилия всё ещё спит.[object Object]Так холодно, что мне захотелось всю вечность пролежать в тёплой постельке. Моя кровать так и манила лечь, и заставить спать. Но, тут мой чёрный друг проснулся. Он уставился на меня своими большими зелёными глазами.[object Object]- Что? - Не понимал я что происходит, но на мой вопрос Беззубик лишь фыркнул.[object Object]Но тут он расправил свои крылья, и подлетел ко мне. А свою морду положил мне на руки. Я явно не понимал что он от меня хочет.[object Object]Но тут он своей мордой уставился на свои крылья, и ...	1
  query: Дело было вечером, когда я отправлялась в гости к Мартине. Я взяла с собой Факундо, и Ксаби. Это мои сумасшедшие, но лучшие друзья. Короче коротко: Я - Лодовика, но можно просто Лодо.[object Object]Так как Тина живёт на 9 этаже, нам пришлось ехать на лифте, иначе на лестнице мы бы подохли. Короче заходим в лифт, и вот мы уже на нужном нам этаже.[object Object]Дверки открылись, я отвернулась на минутку. А потом повернулась, смотрю а этих идиотов нету. Вдруг дверки закрылись, я девушка не пугливая но, чёрт а вдруг я тут застряну?[object Object]- Придурки, блин! Откройте лифт! Застряну ведь![object Object]В ответ я услышала лишь смех двух парней. Ну! Им не поздоровится когда я отсюда выйду.[object Object]Вдруг, дверки открылись, я вылезла из лифта, и эти дебилы насильно затаскивают меня в лифт, и жмут на кнопку, чтобы лифт поехал до 1 этажа.[object Object]- Быстрее! Факу! Надо быстрее Лодо спуститься на 1 этаж! - Закричал Ксабьяни.[object Object]- Понял! - В ответ крикнул Факундо.[object Object]Тут дверки закрылись, и меня понесло на 1 этаж. Через несколько минут я спустилась на нужный этаж,...	query: Виолетта как всегда спала в своей кровати, и, в очередной раз ей снился кошмар. В очередной раз ей снилась ее покойная мать, Мария. Виолетта встала, вся вспотевшая, вся испуганная.[object Object]Вдруг дверь комнаты открылась, из за двери показался юноша. Он глядя на Виолетту нахмурил брови, и подошёл к ней.[object Object]- Виолетта, что с тобой? - Спросил он.[object Object]- Ничего. Просто опять кошмар приснился.[object Object]- Опять?[object Object]Федерико сел на край кровати, и обнял ее. Та не стала сопротивляться. Она обняла его в ответ, сейчас ей нужна поддержка. Опять сон, опять слёзы. Когда же бедной девушке прекратится сниться ее мать?[object Object]Виолетта встала из своей постели, и Федерико вышел из комнаты. Девушка начала одеваться, одевшись она спустилась на первый этаж, в гостиную.[object Object]Заметив что никого кроме Федерико в гостиной нету, она просила:[object Object]- А где все?[object Object]- Ольга пошла покупать продукты, а Ромальо и Герман на работе.[object Object]- Понятно.[object Object]Всё как всегда, ничего не меняется, кроме моих кошмаров.[object Object]Я села на диван, напротив Федерико, он что то писал на бумажке...	1
  query: Дело было вечером, когда я отправлялась в гости к Мартине. Я взяла с собой Факундо, и Ксаби. Это мои сумасшедшие, но лучшие друзья. Короче коротко: Я - Лодовика, но можно просто Лодо.[object Object]Так как Тина живёт на 9 этаже, нам пришлось ехать на лифте, иначе на лестнице мы бы подохли. Короче заходим в лифт, и вот мы уже на нужном нам этаже.[object Object]Дверки открылись, я отвернулась на минутку. А потом повернулась, смотрю а этих идиотов нету. Вдруг дверки закрылись, я девушка не пугливая но, чёрт а вдруг я тут застряну?[object Object]- Придурки, блин! Откройте лифт! Застряну ведь![object Object]В ответ я услышала лишь смех двух парней. Ну! Им не поздоровится когда я отсюда выйду.[object Object]Вдруг, дверки открылись, я вылезла из лифта, и эти дебилы насильно затаскивают меня в лифт, и жмут на кнопку, чтобы лифт поехал до 1 этажа.[object Object]- Быстрее! Факу! Надо быстрее Лодо спуститься на 1 этаж! - Закричал Ксабьяни.[object Object]- Понял! - В ответ крикнул Факундо.[object Object]Тут дверки закрылись, и меня понесло на 1 этаж. Через несколько минут я спустилась на нужный этаж,...	query: Я - Джамиля, дочь знатного графа. Моя мать умерла при родах, а я осталась жива. Уже как 20 лет прошло со смерти любящий матери. Мой отец снова женился чтобы у меня был пример для подражания.[object Object]Мою мачеху зовут Элизабет. Вроде имя доброе, а сама женщина не из лучших.[object Object]Мы с Элизабет не ладили. Мой отец уехал, дома осталась я с мачехой, которая совсем не занималась моим воспитанием как поручил ей мой отец.[object Object]Дом у нас был богатый, красивый. И много слуг.[object Object]Попутный ветер дует мне прямо в лицо. В округе посажены цветы.[object Object]Сейчас я в саду. Я очень редко улыбаюсь, так как таких радостных моментов, у меня было очень мало.[object Object]Я редко выхожу из своего дома, даже практически из своей комнаты не выхожу.[object Object]Моя мачеха очень редко выпускает меня подышать воздухом, она говорит что мне нельзя выходить на улицу, и общаться с людьми, пока я не научусь правилами этикета.[object Object]Немного подышав воздухом я зашла в дом. Ко мне сразу же подбежала Элизабет.[object Object]Глаза её были наполнены гневом. Она прожигала меня своим зловещим в...	1

• Loss: MultipleNegativesRankingLoss with these parameters:
  json

  1{ 2 "scale": 100, 3 "similarity_fct": "cos_sim" 4}

Training Hyperparameters

Non-Default Hyperparameters

• eval_strategy: epoch
• per_device_train_batch_size: 64
• per_device_eval_batch_size: 64
• weight_decay: 0.01
• num_train_epochs: 5
• bf16: True
• load_best_model_at_end: True
• batch_sampler: no_duplicates

All Hyperparameters

Training Logs

Framework Versions

• Python: 3.10.18
• Sentence Transformers: 4.1.0
• Transformers: 4.52.4
• PyTorch: 2.7.1+cu128
• Accelerate: 1.7.0
• Datasets: 3.6.0
• Tokenizers: 0.21.1

Citation

BibTeX

Sentence Transformers

MultipleNegativesRankingLoss