This is a sentence-transformers model finetuned from intfloat/multilingual-e5-base. It maps sentences & paragraphs to a 768-dimensional dense vector space and can be used for retrieval.

Model Details

Model Description

Model Type: Sentence Transformer
Base model: intfloat/multilingual-e5-base
Maximum Sequence Length: 256 tokens
Output Dimensionality: 768 dimensions
Similarity Function: Cosine Similarity
Supported Modality: Text

Model Sources

Documentation: Sentence Transformers Documentation
Repository: Sentence Transformers on GitHub
Hugging Face: Sentence Transformers on Hugging Face

Full Model Architecture

SentenceTransformer(
  (0): Transformer({'transformer_task': 'feature-extraction', 'modality_config': {'text': {'method': 'forward', 'method_output_name': 'last_hidden_state'}}, 'module_output_name': 'token_embeddings', 'architecture': 'XLMRobertaModel'})
  (1): Pooling({'embedding_dimension': 768, 'pooling_mode': 'mean', 'include_prompt': True})
  (2): Normalize({})
)

Usage

Direct Usage (Sentence Transformers)

First install the Sentence Transformers library:

pip install -U sentence-transformers

Then you can load this model and run inference.

python

from sentence_transformers import SentenceTransformer

# Download from the 🤗 Hub
model = SentenceTransformer("sentence_transformers_model_id")
# Run inference
sentences = [
    'query: thảm nhà xinh kích thước',
    'passage: Tên sản phẩm: Thảm Cotton Vie Recycle (1,6M X 2,3M). Danh mục: Hàng trang trí. Thương hiệu: Nhà Xinh. Mô tả chi tiết: Thảm Cotton Vie Recycle từ Nhà Xinh là sự lựa chọn lý tưởng để nâng tầm không gian sống của bạn. Với kích thước 1,6M X 2,3M, chiếc thảm này không chỉ mang lại sự ấm cúng mà còn góp phần bảo vệ môi trường nhờ chất liệu cotton tái chế. Sản phẩm thuộc danh mục hàng trang trí, phù hợp với nhiều phong cách nội thất từ hiện đại đến cổ điển. Thảm có độ bền cao, dễ dàng vệ sinh và tạo cảm giác êm ái dưới chân, thích hợp cho phòng khách, phòng ngủ hay khu vực sinh hoạt chung. Thảm Cotton Vie Recycle không chỉ là vật dụng trang trí mà còn thể hiện phong cách sống xanh, ý thức bảo vệ môi trường của gia chủ.',
    'passage: Tên sản phẩm: Hộp Bút Dạ Nước GUBKT84640 12 Màu KT. Danh mục: Họa Cụ. Thương hiệu: An Ngọc Sơn. Mô tả chi tiết: Mở ra thế giới sắc màu sống động với Hộp Bút Dạ Nước GUBKT84640 12 Màu từ thương hiệu An Ngọc Sơn. Bộ bút marker này được thiết kế đặc biệt cho những người mới bắt đầu, với đầu bút chất lượng cao cho nét vẽ mượt mà, màu sắc chân thực và khả năng phối màu tinh tế. Bạn có thể dễ dàng tạo hiệu ứng đậm nhạt, pha trộn màu sắc để vẽ phong cảnh, chân dung hay làm bút nhớ. Hộp bút 12 màu với dung tích 300gr, kích thước 13 x 15 x 2 cm, rất gọn nhẹ và tiện lợi mang theo. Sản phẩm đến từ Trung Quốc, đảm bảo chất lượng vượt trội, giúp bạn thỏa sức sáng tạo và thể hiện cá tính nghệ thuật của mình. Màu sắc trẻ trung, năng động phù hợp với mọi lứa tuổi. Thông tin bổ sung: tags SAN.',
]
embeddings = model.encode(sentences)
print(embeddings.shape)
# [3, 768]

# Get the similarity scores for the embeddings
similarities = model.similarity(embeddings, embeddings)
print(similarities)
# tensor([[ 1.0000,  0.5937, -0.0819],
#         [ 0.5937,  1.0000, -0.0756],
#         [-0.0819, -0.0756,  1.0000]])

Training Details

Training Dataset

Unnamed Dataset

Size: 321,881 training samples
Columns: anchor and positive
Approximate statistics based on the first 100 samples:
anchor positive
type string string
modality text text
details
min: 6 tokens
mean: 10.74 tokens
max: 15 tokens
min: 154 tokens
mean: 224.09 tokens
max: 256 tokens

Samples:

anchor	positive
`query: quần dài nữ co giãn`	passage: Tên sản phẩm: Quần Dài Ống Vểnh Cơ Bản. Danh mục: Quần nữ. Thương hiệu: YODY. Mô tả chi tiết: Sở hữu vẻ ngoài thanh lịch và hiện đại với Quần Dài Ống Vểnh Cơ Bản từ YODY. Chất liệu Double face kim cương cao cấp, với 93% Polyester và 7% Spandex, mang đến sự kết hợp hoàn hảo giữa độ bền, khả năng co giãn nhẹ và khả năng hạn chế nhăn nhàu hiệu quả. Kiểu dệt độc đáo tạo nên sự mới mẻ và thu hút cho trang phục, trong khi thành phần Spandex đảm bảo sự thoải mái và linh hoạt khi vận động. Chất liệu Polyester giúp quần giữ phom dáng tốt, dễ dàng bảo quản và luôn trông như mới. Chiếc quần này là lựa chọn lý tưởng để phối cùng nhiều loại áo, tạo nên phong cách thời trang đa dạng và tinh tế cho phái đẹp. Thông tin bổ sung: chất liệu 93% Polyester, 7%Spandex, màu Than chì 002, ĐEN 002, Navy 001, Nâu 191, kích thước/size S, M, L, XL, tags YODY, Than chì 002, ĐEN 002, Navy 001, Nâu 191.
`query: khăn lau đồ điện tử`	passage: Tên sản phẩm: Khăn Giấy Đa Năng Let Green 130 Tờ. Danh mục: Giấy. Thương hiệu: Việt Nam. Mô tả chi tiết: Khăn giấy đa năng Let Green 130 tờ, kích thước 10x21cm, là sản phẩm tiện ích làm từ 100% bột giấy nguyên chất, an toàn cho sức khỏe và thân thiện với môi trường. Với thiết kế 2 lớp, giấy có độ dai, mềm mịn, thấm hút tốt và độ bền ướt cao, hương hoa dịu nhẹ không chứa hóa chất tẩy trắng độc hại. Sản phẩm lý tưởng để lau tay, lau miệng khi ăn uống, phù hợp sử dụng tại văn phòng, xe hơi hay các buổi dã ngoại. Bảo quản nơi khô ráo, thoáng mát. Thông tin bổ sung: kích thước/size 10*21Cm.
`query: áo phông thể thao suông`	passage: Tên sản phẩm: Áo phông active nam dáng suông có hình in. Danh mục: Canifa Active. Thương hiệu: CANIFA. Mô tả chi tiết: Áo phông active nam dáng suông của CANIFA mang đến phong cách năng động và hiệu suất vượt trội. Thiết kế phom regular với điểm nhấn đồ họa in ngực và sau gáy đục lazer khỏe khoắn, tạo nên vẻ ngoài cá tính. Chất liệu 75% nylon và 25% spandex cao cấp đảm bảo độ co giãn tối ưu, giúp bạn vận động thoải mái và thoáng mát. Sản phẩm tích hợp nhiều tính năng ưu việt như Wicking (thấm hút mồ hôi), Anti UV (chống tia cực tím), Stretch (co giãn) và Easy care (dễ bảo quản), rất phù hợp cho các buổi tập luyện thể thao. Áo có nhiều màu sắc và kích cỡ từ S đến XXL. Thông tin bổ sung: chất liệu 75% nylon 25% spandex., màu SA083, SB001, SK010, kích thước/size S, M, L, XL, XXL, tags Áo phông ngắn tay, Áo phông, Áo thun, Canifa Active / Quần áo thể thao, Áo active, Canifa Active, Sản phẩm active, Sản phẩm Xuân Hè, Áo phông basic, Canifa cảm ơn, Áo, Không xoá SP sale check điều k...

Loss: MultipleNegativesRankingLoss with these parameters:
json
1{ 2 "scale": 20.0, 3 "similarity_fct": "cos_sim", 4 "gather_across_devices": false, 5 "directions": [ 6 "query_to_doc" 7 ], 8 "partition_mode": "joint", 9 "hardness_mode": null, 10 "hardness_strength": 0.0 11}

Evaluation Dataset

Unnamed Dataset

Size: 16,941 evaluation samples
Columns: anchor and positive
Approximate statistics based on the first 100 samples:
anchor positive
type string string
modality text text
details
min: 8 tokens
mean: 10.91 tokens
max: 17 tokens
min: 163 tokens
mean: 226.93 tokens
max: 256 tokens

Samples:

anchor	positive
`query: polyresin khay đá`	passage: Tên sản phẩm: Khay phụ kiện \| BILLSTA \| nhựa polyresin/đá \| họa tiết terazzo \| R11xD18xC2cm. Danh mục: Đồ phụ kiện. Thương hiệu: BILLSTA. Mô tả chi tiết: Khay phụ kiện BILLSTA là điểm nhấn tinh tế cho không gian phòng tắm của bạn, mang đến sự tiện nghi và phong cách. Sản phẩm được làm từ chất liệu nhựa polyresin kết hợp đá, tạo nên họa tiết terazzo độc đáo và sang trọng. Với kích thước R11xD18xC2cm, khay lý tưởng để sắp xếp gọn gàng các vật dụng nhỏ như xà phòng, bàn chải đánh răng, hoặc các món đồ trang sức. Chất liệu bền bỉ và khả năng chống nước tốt giúp khay dễ dàng vệ sinh và duy trì vẻ đẹp theo thời gian. Khay phụ kiện BILLSTA không chỉ giúp không gian thêm ngăn nắp mà còn góp phần nâng tầm thẩm mỹ cho phòng tắm hiện đại. Thông tin bổ sung: chất liệu nhựa polyresin/đá, màu họa tiết terazzo, kích thước/size R11xD18xC2cm, tags Phòng tắm, BILLSTA.
`query: kệ sách hòa phát`	passage: Tên sản phẩm: Giá sắt GS5K2. Danh mục: Giá Sắt, Kệ Siêu Thị. Thương hiệu: Nội Thất Hòa Phát. Mô tả chi tiết: Giá sắt thư viện Hòa Phát GS5K2 là lựa chọn hoàn hảo cho việc sắp xếp và lưu trữ tài liệu trong các thư viện, văn phòng. Sản phẩm được làm từ chất liệu sắt và thép cao cấp, đảm bảo độ bền vượt trội và khả năng chịu lực tốt. Với thiết kế 2 khoang sử dụng 2 mặt và 5 tầng để tài liệu, GS5K2 cung cấp không gian lưu trữ rộng rãi. Các đợt và thanh chắn có thể di động linh hoạt, cho phép người dùng dễ dàng điều chỉnh độ cao giữa các tầng, phù hợp với nhiều loại sách, hồ sơ có kích thước khác nhau, mang lại sự tiện lợi tối đa. Thông tin bổ sung: chất liệu ["sắt","thép"], tags GS5K2, giá, sắt, gs5k2, nội-thất-hòa-phát.
`query: NXB Thế Giới bán hàng`	passage: Tên sản phẩm: Kỹ Năng Bán Hàng Thực Chiến. Danh mục: Bán Hàng. Thương hiệu: NXB Thế Giới. Mô tả chi tiết: Cuốn sách "Kỹ Năng Bán Hàng Thực Chiến" là cẩm nang không thể thiếu cho bất kỳ ai mong muốn chinh phục mục tiêu doanh số và tìm lại niềm vui trong công việc bán hàng. Tác giả đúc kết hơn ba năm nghiên cứu, tổng hợp các nguyên tắc, phương pháp luận và kinh nghiệm thực chiến từ vô số lần thành công lẫn thất bại khi làm việc với các seller chuyên nghiệp. Cuốn sách tập trung vào việc nâng cao hiệu quả bán hàng, đặc biệt là telemarketing/telesale trong bối cảnh khách hàng ngày càng khó tính. Các kỹ năng được trình bày dưới dạng công thức ngắn gọn, dễ nhớ, dễ áp dụng, kèm theo ví dụ thực tế từ chính tác giả và những người bán hàng thành công tại thị trường Việt Nam. Với lối diễn đạt sinh động, không sa vào lý thuyết suông, cùng các "bài văn mẫu" và kịch bản chi tiết, bạn đọc có thể thực hành ngay để cải thiện hiệu suất bán hàng và trở thành một chuyên gia thực thụ.

Loss: MultipleNegativesRankingLoss with these parameters:
json
1{ 2 "scale": 20.0, 3 "similarity_fct": "cos_sim", 4 "gather_across_devices": false, 5 "directions": [ 6 "query_to_doc" 7 ], 8 "partition_mode": "joint", 9 "hardness_mode": null, 10 "hardness_strength": 0.0 11}

Training Hyperparameters

Non-Default Hyperparameters

per_device_train_batch_size: 128
learning_rate: 2e-05
warmup_steps: 0.1
fp16: True
per_device_eval_batch_size: 128
load_best_model_at_end: True
dataloader_num_workers: 4

All Hyperparameters

Click to expand

per_device_train_batch_size: 128
num_train_epochs: 3
max_steps: -1
learning_rate: 2e-05
lr_scheduler_type: linear
lr_scheduler_kwargs: None
warmup_steps: 0.1
optim: adamw_torch_fused
optim_args: None
weight_decay: 0.0
adam_beta1: 0.9
adam_beta2: 0.999
adam_epsilon: 1e-08
optim_target_modules: None
gradient_accumulation_steps: 1
average_tokens_across_devices: True
max_grad_norm: 1.0
label_smoothing_factor: 0.0
bf16: False
fp16: True
bf16_full_eval: False
fp16_full_eval: False
tf32: None
gradient_checkpointing: False
gradient_checkpointing_kwargs: None
torch_compile: False
torch_compile_backend: None
torch_compile_mode: None
use_liger_kernel: False
liger_kernel_config: None
use_cache: False
neftune_noise_alpha: None
torch_empty_cache_steps: None
auto_find_batch_size: False
log_on_each_node: True
logging_nan_inf_filter: True
include_num_input_tokens_seen: no
log_level: passive
log_level_replica: warning
disable_tqdm: False
project: huggingface
trackio_space_id: None
trackio_bucket_id: None
trackio_static_space_id: None
per_device_eval_batch_size: 128
prediction_loss_only: True
eval_on_start: False
eval_do_concat_batches: True
eval_use_gather_object: False
eval_accumulation_steps: None
include_for_metrics: []
batch_eval_metrics: False
save_only_model: False
save_on_each_node: False
enable_jit_checkpoint: False
push_to_hub: False
hub_private_repo: None
hub_model_id: None
hub_strategy: every_save
hub_always_push: False
hub_revision: None
load_best_model_at_end: True
ignore_data_skip: False
restore_callback_states_from_checkpoint: False
full_determinism: False
seed: 42
data_seed: None
use_cpu: False
accelerator_config: {'split_batches': False, 'dispatch_batches': None, 'even_batches': True, 'use_seedable_sampler': True, 'non_blocking': False, 'gradient_accumulation_kwargs': None}
parallelism_config: None
dataloader_drop_last: False
dataloader_num_workers: 4
dataloader_pin_memory: True
dataloader_persistent_workers: False
dataloader_prefetch_factor: None
remove_unused_columns: True
label_names: None
train_sampling_strategy: random
length_column_name: length
ddp_find_unused_parameters: None
ddp_bucket_cap_mb: None
ddp_broadcast_buffers: False
ddp_static_graph: None
ddp_backend: None
ddp_timeout: 1800
fsdp: None
fsdp_config: None
deepspeed: None
debug: []
skip_memory_metrics: True
do_predict: False
resume_from_checkpoint: None
warmup_ratio: None
local_rank: -1
prompts: None
batch_sampler: batch_sampler
multi_dataset_batch_sampler: proportional
router_mapping: {}
learning_rate_mapping: {}

Training Logs

Click to expand

Epoch	Step	Training Loss	Validation Loss
0.0199	50	3.2872	-
0.0398	100	2.1124	-
0.0596	150	0.8267	-
0.0795	200	0.5438	-
0.0994	250	0.4606	-
0.1193	300	0.4160	-
0.1392	350	0.3828	-
0.1590	400	0.3865	-
0.1789	450	0.3533	-
0.1988	500	0.3639	0.3104
0.2187	550	0.3494	-
0.2386	600	0.3526	-
0.2584	650	0.3371	-
0.2783	700	0.3188	-
0.2982	750	0.3092	-
0.3181	800	0.3108	-
0.3380	850	0.3138	-
0.3579	900	0.3116	-
0.3777	950	0.3070	-
0.3976	1000	0.2930	0.2651
0.4175	1050	0.2974	-
0.4374	1100	0.2947	-
0.4573	1150	0.2651	-
0.4771	1200	0.2746	-
0.4970	1250	0.2661	-
0.5169	1300	0.2905	-
0.5368	1350	0.2801	-
0.5567	1400	0.2723	-
0.5765	1450	0.2577	-
0.5964	1500	0.2788	0.2408
0.6163	1550	0.2740	-
0.6362	1600	0.2644	-
0.6561	1650	0.2654	-
0.6759	1700	0.2464	-
0.6958	1750	0.2665	-
0.7157	1800	0.2413	-
0.7356	1850	0.2540	-
0.7555	1900	0.2657	-
0.7753	1950	0.2539	-
0.7952	2000	0.2534	0.2303
0.8151	2050	0.2506	-
0.8350	2100	0.2525	-
0.8549	2150	0.2478	-
0.8748	2200	0.2462	-
0.8946	2250	0.2506	-
0.9145	2300	0.2360	-
0.9344	2350	0.2458	-
0.9543	2400	0.2369	-
0.9742	2450	0.2274	-
0.9940	2500	0.2401	0.2216
1.0139	2550	0.2394	-
1.0338	2600	0.2069	-
1.0537	2650	0.2188	-
1.0736	2700	0.2073	-
1.0934	2750	0.2184	-
1.1133	2800	0.2035	-
1.1332	2850	0.2209	-
1.1531	2900	0.2245	-
1.1730	2950	0.2191	-
1.1928	3000	0.2222	0.2148
1.2127	3050	0.2272	-
1.2326	3100	0.2134	-
1.2525	3150	0.2178	-
1.2724	3200	0.2168	-
1.2922	3250	0.2105	-
1.3121	3300	0.2077	-
1.3320	3350	0.2109	-
1.3519	3400	0.2202	-
1.3718	3450	0.2163	-
1.3917	3500	0.2153	0.2099
1.4115	3550	0.2189	-
1.4314	3600	0.2130	-
1.4513	3650	0.2071	-
1.4712	3700	0.2015	-
1.4911	3750	0.2056	-
1.5109	3800	0.2134	-
1.5308	3850	0.2115	-
1.5507	3900	0.2140	-
1.5706	3950	0.2028	-
1.5905	4000	0.2216	0.2065
1.6103	4050	0.2027	-
1.6302	4100	0.2105	-
1.6501	4150	0.1999	-
1.6700	4200	0.2003	-
1.6899	4250	0.2065	-
1.7097	4300	0.2086	-
1.7296	4350	0.2164	-
1.7495	4400	0.2078	-
1.7694	4450	0.2008	-
1.7893	4500	0.2033	0.2022
1.8091	4550	0.2067	-
1.8290	4600	0.2089	-
1.8489	4650	0.1935	-
1.8688	4700	0.2120	-
1.8887	4750	0.1936	-
1.9085	4800	0.1959	-
1.9284	4850	0.2127	-
1.9483	4900	0.2033	-
1.9682	4950	0.1951	-
1.9881	5000	0.2109	0.1998
2.0080	5050	0.1973	-
2.0278	5100	0.1850	-
2.0477	5150	0.2026	-
2.0676	5200	0.1853	-
2.0875	5250	0.1969	-
2.1074	5300	0.2030	-
2.1272	5350	0.1834	-
2.1471	5400	0.1799	-
2.1670	5450	0.1709	-
2.1869	5500	0.1746	0.1961
2.2068	5550	0.1790	-
2.2266	5600	0.1799	-
2.2465	5650	0.1857	-
2.2664	5700	0.1844	-
2.2863	5750	0.1794	-
2.3062	5800	0.1980	-
2.3260	5850	0.1887	-
2.3459	5900	0.1746	-
2.3658	5950	0.1869	-
2.3857	6000	0.1831	0.1952
2.4056	6050	0.1923	-
2.4254	6100	0.1727	-
2.4453	6150	0.1844	-
2.4652	6200	0.1824	-
2.4851	6250	0.1797	-
2.5050	6300	0.1759	-
2.5249	6350	0.1814	-
2.5447	6400	0.1797	-
2.5646	6450	0.1816	-
2.5845	6500	0.1881	0.1925
2.6044	6550	0.1973	-
2.6243	6600	0.1813	-
2.6441	6650	0.1864	-
2.6640	6700	0.1925	-
2.6839	6750	0.1780	-
2.7038	6800	0.1778	-
2.7237	6850	0.1626	-
2.7435	6900	0.1810	-
2.7634	6950	0.1849	-
2.7833	7000	0.1933	0.1914
2.8032	7050	0.1785	-
2.8231	7100	0.1846	-
2.8429	7150	0.1875	-
2.8628	7200	0.1854	-
2.8827	7250	0.1836	-
2.9026	7300	0.1725	-
2.9225	7350	0.1824	-
2.9423	7400	0.1814	-
2.9622	7450	0.1846	-
2.9821	7500	0.1937	0.1909
3.0	7545	-	0.1909

The bold row denotes the saved checkpoint.

Training Time

Training: 1.1 hours
Evaluation: 4.5 minutes
Total: 1.1 hours

Framework Versions

Python: 3.12.3
Sentence Transformers: 5.6.1
Transformers: 5.14.1
PyTorch: 2.8.0+cu128
Accelerate: 1.14.0
Datasets: 5.0.1
Tokenizers: 0.22.2

Citation

BibTeX

Sentence Transformers

bibtex

@inproceedings{reimers-2019-sentence-bert,
    title = "Sentence-BERT: Sentence Embeddings using Siamese BERT-Networks",
    author = "Reimers, Nils and Gurevych, Iryna",
    booktitle = "Proceedings of the 2019 Conference on Empirical Methods in Natural Language Processing",
    month = "11",
    year = "2019",
    publisher = "Association for Computational Linguistics",
    url = "https://arxiv.org/abs/1908.10084",
}

MultipleNegativesRankingLoss

bibtex

@misc{oord2019representationlearningcontrastivepredictive,
      title={Representation Learning with Contrastive Predictive Coding},
      author={Aaron van den Oord and Yazhe Li and Oriol Vinyals},
      year={2019},
      eprint={1807.03748},
      archivePrefix={arXiv},
      primaryClass={cs.LG},
      url={https://arxiv.org/abs/1807.03748},
}

	anchor	positive
type	string	string
modality	text	text
details	min: 6 tokens mean: 10.74 tokens max: 15 tokens	min: 154 tokens mean: 224.09 tokens max: 256 tokens

Luong23/e5-finetune-embedding-v1

SentenceTransformer based on intfloat/multilingual-e5-base

Model Details

Model Description

Model Sources

Full Model Architecture

Usage

Direct Usage (Sentence Transformers)

Training Details

Training Dataset

Unnamed Dataset

Evaluation Dataset

Unnamed Dataset

Training Hyperparameters

Non-Default Hyperparameters

All Hyperparameters

Training Logs

Training Time

Framework Versions

Citation

BibTeX

Sentence Transformers

MultipleNegativesRankingLoss

Luong23/
e5-finetune-embedding-v1