SentenceTransformer based on intfloat/multilingual-e5-small

Model Details

Model Description

• Model Type: Sentence Transformer
• Base model: intfloat/multilingual-e5-small
• Maximum Sequence Length: 512 tokens
• Output Dimensionality: 384 tokens
• Similarity Function: Cosine Similarity
• Training Dataset:
  • train

Model Sources

• Documentation: Sentence Transformers Documentation
• Repository: Sentence Transformers on GitHub
• Hugging Face: Sentence Transformers on Hugging Face

Full Model Architecture

SentenceTransformer(
  (0): Transformer({'max_seq_length': 512, 'do_lower_case': False}) with Transformer model: BertModel 
  (1): Pooling({'word_embedding_dimension': 384, 'pooling_mode_cls_token': False, 'pooling_mode_mean_tokens': True, 'pooling_mode_max_tokens': False, 'pooling_mode_mean_sqrt_len_tokens': False, 'pooling_mode_weightedmean_tokens': False, 'pooling_mode_lasttoken': False, 'include_prompt': True})
  (2): Normalize()
)

Usage

Direct Usage (Sentence Transformers)

Training Details

Training Dataset

train

• Dataset: train
• Size: 278 training samples
• Columns: anchor, positive, and negative
• Approximate statistics based on the first 1000 samples:

  	anchor	positive	negative
  type	string	string	string
  details	min: 7 tokens mean: 49.8 tokens max: 130 tokens	min: 41 tokens mean: 122.96 tokens max: 317 tokens	min: 41 tokens mean: 123.75 tokens max: 317 tokens

• Samples:

  anchor	positive	negative
  Один из самых знаменитых героев фэнтези-пародии легко сбивает с толку и обычных зрителей и самого себя. Энди Дюфрейн попадает в сверххищную тюрьму, где находятся представители высшего света, которым не нужны деньги.	Бухгалтер Энди Дюфрейн обвинён в убийстве собственной жены и её любовника. Оказавшись в тюрьме под названием Шоушенк; он сталкивается с жестокостью и беззаконием; царящими по обе стороны решётки. Каждый; кто попадает в эти стены; становится их рабом до конца жизни. Но Энди; обладающий живым умом и доброй душой; находит подход как к заключённым; так и к охранникам; добиваясь их особого к себе расположения.	Действие фильма разворачивается на бескрайних просторах Антарктики. Научная экспедиция; в состав которой входят Джерри Шепард; его лучший друг Купер и геолог; отправляется на поиски метеорита.Однако неожиданное происшествие и тяжелые погодные условия вынуждают их оставить свои собачьи упряжки и вернуться назад. И теперь восемь собак должны в течение шести месяцев бороться за выживание в ледяной пустыне и ждать; пока их спасут…
  В одной из тюрем находится отряд смертников, каждый из сотрудников которого смотрит за судьбами заключенных, разрабатывая такие методы воздействия, которые не должны применяться. Один из заключенных с титулом «Смертник номер один» вызывает беспокойство сотрудников.	Пол Эджкомб — начальник блока смертников в тюрьме «Холодная гора»; каждый из узников которого однажды проходит «зеленую милю» по пути к месту казни. Пол повидал много заключённых и надзирателей за время работы. Однако гигант Джон Коффи; обвинённый в страшном преступлении; стал одним из самых необычных обитателей блока.	Крыс Реми обладает уникальным вкусом. Он готов рисковать собственной жизнью; чтобы посмотреть любимое кулинарное шоу и раздобыть какую-нибудь приправку или просто свежий продукт. Реми живет со своими сородичами; которые его не понимают и не принимают его увлечения кулинарией. Когда Реми случайно попадает на кухню шикарного ресторана; он решает воспользоваться выпавшим ему шансом и проверить свои навыки. На эту же кухню попадает и юный Лингвини. Всё; на что он может расчитывать — это должность уборщика. Но он тоже получает свой шанс…
  Герой фильма ведет жизнь простого, благородного человека, но окружающие видят в нем великого человека и превращают его в того, кем он сначала хотел быть. Однако через годы он осознает, что не воспользовался своим великолепием, бросив свою первоначальную любовь и оставшись один.	От лица главного героя Форреста Гампа; слабоумного безобидного человека с благородным и открытым сердцем; рассказывается история его необыкновенной жизни.Фантастическим образом превращается он в известного футболиста; героя войны; преуспевающего бизнесмена. Он становится миллиардером; но остается таким же бесхитростным; глупым и добрым. Форреста ждет постоянный успех во всем; а он любит девочку; с которой дружил в детстве; но взаимность приходит слишком поздно.	Действие разворачивается 20 тыс. лет назад. Чтобы избежать приближающегося из-за наступления ледникового периода холода; животные мигрируют на юг. Однако некоторые из них всё-таки решают остаться — одинокий; угрюмый мамонт Манфред; а также бесшабашный ленивец Сид.Случайно эта парочка наталкивается на человеческого детёныша. Они решаются вернуть его людям и отправляются в путешествие. По пути они встречают саблезубого хитрого тигра. И теперь этой веселой компании предстоят забавные приключения!

• Loss: MultipleNegativesRankingLoss with these parameters:
  json

  1{ 2 "scale": 20.0, 3 "similarity_fct": "cos_sim" 4}

Training Hyperparameters

Non-Default Hyperparameters

• per_device_train_batch_size: 16
• learning_rate: 2e-05
• num_train_epochs: 5
• warmup_ratio: 0.1

All Hyperparameters

Framework Versions

• Python: 3.10.14
• Sentence Transformers: 3.0.1
• Transformers: 4.44.0
• PyTorch: 2.4.0
• Accelerate: 0.33.0
• Datasets: 2.21.0
• Tokenizers: 0.19.1

Citation

BibTeX

Sentence Transformers

MultipleNegativesRankingLoss