This is a sentence-transformers model finetuned from BAAI/bge-m3. It maps sentences & paragraphs to a 1024-dimensional dense vector space and can be used for semantic textual similarity, semantic search, paraphrase mining, text classification, clustering, and more.

Model Details

Model Description

Model Type: Sentence Transformer
Base model: BAAI/bge-m3
Maximum Sequence Length: 8192 tokens
Output Dimensionality: 1024 dimensions
Similarity Function: Cosine Similarity

Model Sources

Documentation: Sentence Transformers Documentation
Repository: Sentence Transformers on GitHub
Hugging Face: Sentence Transformers on Hugging Face

Full Model Architecture

SentenceTransformer(
  (0): Transformer({'max_seq_length': 8192, 'do_lower_case': False}) with Transformer model: XLMRobertaModel 
  (1): Pooling({'word_embedding_dimension': 1024, 'pooling_mode_cls_token': True, 'pooling_mode_mean_tokens': False, 'pooling_mode_max_tokens': False, 'pooling_mode_mean_sqrt_len_tokens': False, 'pooling_mode_weightedmean_tokens': False, 'pooling_mode_lasttoken': False, 'include_prompt': True})
  (2): Normalize()
)

Usage

Direct Usage (Sentence Transformers)

First install the Sentence Transformers library:

pip install -U sentence-transformers

Then you can load this model and run inference.

python

from sentence_transformers import SentenceTransformer

# Download from the 🤗 Hub
model = SentenceTransformer("naucica77/bge-m3-finetuned-NSfault")
# Run inference
sentences = [
    'What is the primary purpose of IPC (Inter Processor Communication) within a system?',
    '3장  IPC 장애처리  \n \n \n \nIPC 개요 \n \nIPC(Inter Processor Communication) 는 노드 내에 있는 프로세서  간의 통신을  \n의미한다 .  \n시스템에서  IPC 를 위한 각 노드 간의 연결은  다음 그림과  같다. \n \n그림 1. 시스템  구성 노드 간 관계 \n \nVOMA0  \n      VOMA1  \n \n \nVIDA0  \n      VIDA1  ●  ●  ●  ●  ●  VSA0      \n      VISA1  \n \n \nVECA0  \n      VECA1  ●  ●  ●  ●  ●  \n \n \n시스템에서는  모든 노드 사이에  대한 IPC 진단이  이루어진다 . \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \nSPSC4000 알람 및 장애처리  매뉴얼  SVSCR 1.0.0 v1.0  8 \n© Samsung Proprietary and Confidential',
    '1 장 유지보수  개요 \n \n장애, 가입자  서비스의  이상과  같은 상황에서  발생하는  장애이다 . Major \n알람 발생 시에도  운용자의  즉각적인  조치가  필요하다 . \n \nMinor 알람: Minor 알람은  Critical 알람이나  Major 알람에  비하여  시스템에  \n미치는  영향이  적은 장애이다 . \n \nCATE(Category)  \n \n시스템에서  발생하는  알람은  알람은  ITU-T X.733 에 의해 다음과  \n같은 범주(Category)로 분류할  수 있다. \n \nCOMM: Communications alarm type, 한 지점에서  다른 지점으로  정보를  \n전달하기  위한 절차/처리에  관련된  알람  \nQOS: Quality of service alarm type, 서비스  품질의  저하와  관련된  알람 \n \nPROC: Processing error alarm type, SW 나 Processing 오류 발생과  \n관련된  알람  \nEQUIP: Equipment alarm type, 설치된  장비의  오류 발생과  관련된  알람  \nENV: Environmental alarm type, 시스템의  장비의  환경 상태와  관련된  알람 \n \nCOLUMN( 하위 Category)  \n \nCategory 의 하위의  범주를  이용하여  알람을  세분화하여  관리하는  구분 기준이다 . \n \nSUPP: Suppression 알람 \nBLK: Block 장애 관련 알람  \nCARD: 시스템  노드 장애 관련 알람 \n \nLINK: 시스템  연동 링크 장애 관련 알람 \nENVIR: 시스템  환경 장애 관련 알람  \nSYS: System 기능 장애 관련 알람  \nOVLD: 부하 관련 알람 \n \nRSC: 시스템  내부 자원 관련 알람 \nIODEV: 디스크  장애 관련 알람  \nNE: 연동 Network Element 장애 알람 \n \nNTP: 시각 관리 장애 알람 \nOOS: 서비스  장애 알람 \n \n표 1. 알람 종류  \n CODE  GRD CATE COLUMN  DESCRIPTION  \n 0140 MIN PROC SUPP FAULT SUPPRESSION ALARM  \n      \n      \n SPSC4000 알람 및 장애처리  매뉴얼  SVSCR 1.0.0 v1.0  2 \n © Samsung Proprietary and Confidential',
]
embeddings = model.encode(sentences)
print(embeddings.shape)
# [3, 1024]

# Get the similarity scores for the embeddings
similarities = model.similarity(embeddings, embeddings)
print(similarities.shape)
# [3, 3]

Training Details

Training Dataset

Unnamed Dataset

Size: 230 training samples
Columns: sentence_0 and sentence_1
Approximate statistics based on the first 230 samples:
sentence_0 sentence_1
type string string
details
min: 16 tokens
mean: 28.4 tokens
max: 51 tokens
min: 37 tokens
mean: 416.21 tokens
max: 703 tokens

Samples:

sentence_0	sentence_1
`What should be verified after performing the corrective actions to resolve a CCF GROUP ACCESS FAIL ALARM?`	부록 C 알람 코드별 장애처리 [object Object] [object Object] 2593 CCF GROUP ACCESS FAIL ALARM [object Object] [object Object] 번호 2593 DESCRIPTION CCF GROUP ACCESS FAIL ALARM [object Object] [object Object] 등급 CRI NAME CCF_GRP_ACC_F [object Object] [object Object] Category COMM Column NE [object Object] [object Object] 메시지 내역 * A2593 CCF GROUP ACCESS FAIL ALARM [object Object] LOC = aaaa [object Object] ### A2593 CCF GROUP ACCESS FAIL ALARM CLEARED [object Object] LOC = aaaa [object Object] ALM_ON= bbbb [object Object] [설명] [object Object] aaaa: 장애가 발생한 NE 그룹 정보 [object Object] bbbb: 알람이 발생했던 시간 [object Object] [예] [object Object] * A2593 CCF GROUP ACCESS FAIL ALARM [object Object] LOC = CCF _GRP0 [object Object] [object Object] 원인 해당 CCF 그룹에 속한 모든 CCF 와 접속이 해제되는 경우 발생한다 . [object Object] [object Object] 조치방법 해당 CCF 그룹에 속한 CCF 의 접속 상태를 확인하고 , 접속이 해제되어 있으면 연결한다 . [object Object] RTRV-NE-STS 명령어를 실행하여 해당 CCF 와의 접속 상태를 확인한다 . [object Object] [참고] RTRV-NE-STS 명령어 사용 예 및 확인 사항 [object Object] [명령어 사용 예] [object Object] 1 OOS(Out Of Service) 상태의 CCF 시스템의 접속 상태를 조회하는 경우 [object Object] RTRV-NE-STS:NETYPE= CCF,STS=OOS; [object Object] 2 전체 등록된 CCF 시스템의 접속 상태를 조회하는 경우 [object Object] RTRV-NE-STS:NETYPE= CCF; [object Object] [확인 사항] [object Object] 조치 방법 수행 후 명령어 결과의 STS 상태가 INS(In -service) 상태인지 확인한다 . ...
`What is the typical cause for the "NE EVENT OVER LIMIT FAULT" with fault code 7007 in a telecommunications network node?`	부록 D 폴트 코드별 장애처리 [object Object] [object Object]7007 NE EVENT OVER LIMIT FAULT [object Object] [object Object]번호 7007 DESCRIPTION NE EVENT OVER LIMIT FAULT [object Object] [object Object]메시지 내역 F7007 NE EVENT OVER LIMIT FAULT [object Object] LOC = aaaa [object Object] INF = bbbb [object Object]COUNT = cccc [object Object][설명] [object Object]aaaa: 장애가 발생한 노드 정보 [object Object]bbbb: 장애가 발생한 상세 정보 [object Object]cccc: 장애 발생 사유 [object Object][예] [object Object]F7007 NE EVENT OVER LIMIT FAULT [object Object]LOC = VIDA0 [object Object]INF = HSS_ID1 -ULR [object Object]COUNT = 1234(LIMIT:1000/SEC) [object Object]; [object Object]원인 지정된 INTERVAL 내에 전송할 수 있는 최대값 메시지를 보낸 순간부터 해당 폴트가 발생한다 . [object Object]메시지를 전송 할 수 있는 최대값은 CSSM(Call Session Module) 별로 제어가 된다 [object Object]System PNA 서버(Presence Network Agent) 의 경우에는 Limit 에 의해 연동이 되지 않는 경우 호 [object Object]Impact 실패가 발생할 수 있다. 그 외 NE 들도 각각 NE 와 해당 메시지가 전달되지 않음으로 [object Object]호 장애가 발생 할 수 있다. [object Object]조치방법 해당 NE 의 상태를 확인하거나 CHG-NEEC-INF 명령어를 통해 최대값을 조정한다 . [object Object] [object Object] [object Object] [object Object] [object Object] [object Object] [object Object] [object Object] [object Object] [object Object] [object Object] [object Object] [object Object] [object Object] [object Object] [object Object] [object Object] [object Object] [object Object] [object Object] [object Object] [object Object] [object Object] [object Object] [object Object] [object Object] [object Object] [object Object] [object Object] [object Object] [object Object] [object Object]SPSC4000 알람 및 장애처리 매뉴얼 SVSCR 1.0.0 v1.0 96 [object Object]© Samsung Proprietary and Confidential
`What is the likely system impact if an MGC Access Fail Alarm occurs and the MGC server is not accessible?`	부록 C 알람 코드별 장애처리 [object Object] [object Object] 2582 MGC ACCESS FAIL ALARM [object Object] [object Object] 번호 2582 DESCRIPTION MGC ACCESS FAIL ALARM [object Object] [object Object] 등급 MAJ NAME MGC_ACC_F [object Object] [object Object] Category COMM Column NE [object Object] [object Object] 메시지 내역 A2582 MGC ACCESS FAIL ALARM [object Object] LOC = aaaa [object Object] INF = bbbb [object Object] ## A2582 MGC ACCESS FAIL ALARM CLEARED [object Object] LOC = aaaa [object Object] INF = bbbb [object Object] ALM_ON= cccc [object Object] [설명] [object Object] aaaa: 장애가 발생한 NE 정보 [object Object] bbbb: 장애가 발생한 NE 의 IP 주소 [object Object] cccc: 알람이 발생했던 시간 [object Object] [예] [object Object] A2582 MGC ACCESS FAIL ALARM [object Object] LOC = MGC_ID4 [object Object] INF = 10.254.192.215 [object Object] [object Object] 원인 MGC 와 접속이 해제되는 경우 발생한다 . [object Object] [object Object] 조치방법 1 해당 MGC 의 접속 상태를 확인하고 , 접속이 해제되어 있으면 연결한다 . [object Object] 2 RTRV-NE-STS 명령어를 실행하여 해당 MGC 와의 접속 상태를 확인한다 . [object Object] [참고] RTRV-NE-STS 명령어 사용 예 및 확인 사항 [object Object] [명령어 사용 예] [object Object] 1 OOS(Out Of Service) 상태의 MGC 시스템의 접속 상태를 조회하는 경우 [object Object] RTRV-NE-STS:NETYPE= MGC,STS=OOS; [object Object] 2 전체 등록된 IBCF 시스템의 접속 상태를 조회하는 경우 [object Object] RTRV-NE-STS:NETYPE= MGC; [object Object] [확인 사항] [object Object] 조치 방법 수행 후 명령어 결과의 STS 상태가 INS(In -service) 상...

Loss: MultipleNegativesRankingLoss with these parameters:
json
1{ 2 "scale": 20.0, 3 "similarity_fct": "cos_sim" 4}

Training Hyperparameters

Non-Default Hyperparameters

per_device_train_batch_size: 4
per_device_eval_batch_size: 4
num_train_epochs: 2
multi_dataset_batch_sampler: round_robin

All Hyperparameters

Click to expand

overwrite_output_dir: False
do_predict: False
eval_strategy: no
prediction_loss_only: True
per_device_train_batch_size: 4
per_device_eval_batch_size: 4
per_gpu_train_batch_size: None
per_gpu_eval_batch_size: None
gradient_accumulation_steps: 1
eval_accumulation_steps: None
torch_empty_cache_steps: None
learning_rate: 5e-05
weight_decay: 0.0
adam_beta1: 0.9
adam_beta2: 0.999
adam_epsilon: 1e-08
max_grad_norm: 1
num_train_epochs: 2
max_steps: -1
lr_scheduler_type: linear
lr_scheduler_kwargs: {}
warmup_ratio: 0.0
warmup_steps: 0
log_level: passive
log_level_replica: warning
log_on_each_node: True
logging_nan_inf_filter: True
save_safetensors: True
save_on_each_node: False
save_only_model: False
restore_callback_states_from_checkpoint: False
no_cuda: False
use_cpu: False
use_mps_device: False
seed: 42
data_seed: None
jit_mode_eval: False
bf16: False
fp16: False
fp16_opt_level: O1
half_precision_backend: auto
bf16_full_eval: False
fp16_full_eval: False
tf32: None
local_rank: 0
ddp_backend: None
tpu_num_cores: None
tpu_metrics_debug: False
debug: []
dataloader_drop_last: False
dataloader_num_workers: 0
dataloader_prefetch_factor: None
past_index: -1
disable_tqdm: False
remove_unused_columns: True
label_names: None
load_best_model_at_end: False
ignore_data_skip: False
fsdp: []
fsdp_min_num_params: 0
fsdp_config: {'min_num_params': 0, 'xla': False, 'xla_fsdp_v2': False, 'xla_fsdp_grad_ckpt': False}
fsdp_transformer_layer_cls_to_wrap: None
accelerator_config: {'split_batches': False, 'dispatch_batches': None, 'even_batches': True, 'use_seedable_sampler': True, 'non_blocking': False, 'gradient_accumulation_kwargs': None}
parallelism_config: None
deepspeed: None
label_smoothing_factor: 0.0
optim: adamw_torch_fused
optim_args: None
adafactor: False
group_by_length: False
length_column_name: length
project: huggingface
trackio_space_id: trackio
ddp_find_unused_parameters: None
ddp_bucket_cap_mb: None
ddp_broadcast_buffers: False
dataloader_pin_memory: True
dataloader_persistent_workers: False
skip_memory_metrics: True
use_legacy_prediction_loop: False
push_to_hub: False
resume_from_checkpoint: None
hub_model_id: None
hub_strategy: every_save
hub_private_repo: None
hub_always_push: False
hub_revision: None
gradient_checkpointing: False
gradient_checkpointing_kwargs: None
include_inputs_for_metrics: False
include_for_metrics: []
eval_do_concat_batches: True
fp16_backend: auto
push_to_hub_model_id: None
push_to_hub_organization: None
mp_parameters:
auto_find_batch_size: False
full_determinism: False
torchdynamo: None
ray_scope: last
ddp_timeout: 1800
torch_compile: False
torch_compile_backend: None
torch_compile_mode: None
include_tokens_per_second: False
include_num_input_tokens_seen: no
neftune_noise_alpha: None
optim_target_modules: None
batch_eval_metrics: False
eval_on_start: False
use_liger_kernel: False
liger_kernel_config: None
eval_use_gather_object: False
average_tokens_across_devices: True
prompts: None
batch_sampler: batch_sampler
multi_dataset_batch_sampler: round_robin

Framework Versions

Python: 3.12.12
Sentence Transformers: 3.4.1
Transformers: 4.57.3
PyTorch: 2.9.0+cu126
Accelerate: 1.12.0
Datasets: 4.0.0
Tokenizers: 0.22.1

Citation

BibTeX

Sentence Transformers

bibtex

@inproceedings{reimers-2019-sentence-bert,
    title = "Sentence-BERT: Sentence Embeddings using Siamese BERT-Networks",
    author = "Reimers, Nils and Gurevych, Iryna",
    booktitle = "Proceedings of the 2019 Conference on Empirical Methods in Natural Language Processing",
    month = "11",
    year = "2019",
    publisher = "Association for Computational Linguistics",
    url = "https://arxiv.org/abs/1908.10084",
}

MultipleNegativesRankingLoss

bibtex

@misc{henderson2017efficient,
    title={Efficient Natural Language Response Suggestion for Smart Reply},
    author={Matthew Henderson and Rami Al-Rfou and Brian Strope and Yun-hsuan Sung and Laszlo Lukacs and Ruiqi Guo and Sanjiv Kumar and Balint Miklos and Ray Kurzweil},
    year={2017},
    eprint={1705.00652},
    archivePrefix={arXiv},
    primaryClass={cs.CL}
}

	sentence_0	sentence_1
type	string	string
details	min: 16 tokens mean: 28.4 tokens max: 51 tokens	min: 37 tokens mean: 416.21 tokens max: 703 tokens