SentenceTransformer based on Alibaba-NLP/gte-multilingual-base

Model Details

Model Description

• Model Type: Sentence Transformer
• Base model: Alibaba-NLP/gte-multilingual-base
• Maximum Sequence Length: 1024 tokens
• Output Dimensionality: 768 tokens
• Similarity Function: Cosine Similarity

Model Sources

• Documentation: Sentence Transformers Documentation
• Repository: Sentence Transformers on GitHub
• Hugging Face: Sentence Transformers on Hugging Face

Full Model Architecture

SentenceTransformer(
  (0): Transformer({'max_seq_length': 1024, 'do_lower_case': False}) with Transformer model: NewModel 
  (1): Pooling({'word_embedding_dimension': 768, 'pooling_mode_cls_token': True, 'pooling_mode_mean_tokens': False, 'pooling_mode_max_tokens': False, 'pooling_mode_mean_sqrt_len_tokens': False, 'pooling_mode_weightedmean_tokens': False, 'pooling_mode_lasttoken': False, 'include_prompt': True})
  (2): Normalize()
)

Usage

Direct Usage (Sentence Transformers)

Training Details

Training Dataset

Unnamed Dataset

• Size: 144,712 training samples
• Columns: anchor, positive, and negative
• Approximate statistics based on the first 1000 samples:

  	anchor	positive	negative
  type	string	string	string
  details	min: 7 tokens mean: 16.34 tokens max: 29 tokens	min: 46 tokens mean: 161.2 tokens max: 774 tokens	min: 46 tokens mean: 162.5 tokens max: 767 tokens

• Samples:

  anchor	positive	negative
  남이 장군은 언제 죽었는가?	1468년 10월 24일 예종이 즉위한 지 한 달 보름만에 유자광이 남이(南怡)가 역모를 꾀하고 있다는 고변으로 시작되어 이시애의 난을 진압하는 데 공을 세웠던 남이(南怡)와 강순을 비롯해 민서, 문효량, 변영수, 변자의, 오치권 등이 역모죄로 죽음을 당한 사건이다.	"백두산의 돌을 칼 갈아 없애고(白頭山石磨刀盡)/두만강의 물은 말 먹여 없애니(豆滿江水飮馬無)/남아 이십에 나라를 평안케 못하면(男兒二十未平國)/후세에 누가 대장부라 부르리오(後世誰稱大丈夫)"에서 간신 유자광(1439 ~ 1512, 무오사화를 일으킨 장본인)은 "男兒二十未得國"이라 고쳐 모함하여 25세에 공조판서와 병조판서를 역임하였던 장군 남이를 1468년(예종 1년) 11월 2일 겨우 26세의 나이에 마차에 묶어 사지가 찢겨나가는 거열형(車裂刑)에 처해지는 참살을 겪게 하였다.
  남이 장군은 언제 죽었는가?	1468년 10월 24일 예종이 즉위한 지 한 달 보름만에 유자광이 남이(南怡)가 역모를 꾀하고 있다는 고변으로 시작되어 이시애의 난을 진압하는 데 공을 세웠던 남이(南怡)와 강순을 비롯해 민서, 문효량, 변영수, 변자의, 오치권 등이 역모죄로 죽음을 당한 사건이다.	1667년 승정원우승지가 되고 이후 병조참지(參知), 병조참의(參議), 공조참의가 되었다. 이어서 경주부윤·회양부사에 제수되었다. 1675년 남인이 집권하여 외직으로 밀려났으나 1680년(숙종 6) 경신대출척으로 남인이 추방되자 다시 정계에 복귀하였다. 그해 숙종이 공신 후손들의 회맹(會盟)을 소집할 때에는 좌명공신 윤곤의 적장손(윤곤의 봉사손)으로 회맹에 참여하고 특별히 가선대부로 가자되었고, 같은 해 호조참판에 제수되고 파원군(坡原君)에 봉하여졌다. 그해 12월 29일에 병으로 사망하였다.
  남이 장군은 언제 죽었는가?	1468년 10월 24일 예종이 즉위한 지 한 달 보름만에 유자광이 남이(南怡)가 역모를 꾀하고 있다는 고변으로 시작되어 이시애의 난을 진압하는 데 공을 세웠던 남이(南怡)와 강순을 비롯해 민서, 문효량, 변영수, 변자의, 오치권 등이 역모죄로 죽음을 당한 사건이다.	예종이 즉위한 지 얼마 되지 않아 1468년에 남이의 옥 사건이 일어났으며, 1469년에는 삼포(부산포, 염포, 제포)에서 일본과의 개별 무역을 금지하였고, 그 외에도 병영에 딸려 있는 논과 밭을 일반 농민들이 농사를 지을 수 있도록 해 주었다. 또한 세조 때부터 편찬하기 시작했던 《경국대전》을 드디어 완성했으나 이를 반포하지 못한 채 20세를 일기로 1469년 12월 31일 (음력 11월 28일) 진시(辰時) (오전 7시~9시) 에 자미당(紫薇堂)에서 승하(崩御)하였다. 제위한 지 14개월 만의 일이었다. 사인은 봉와직염의 악화로 인한 패혈증으로 추정된다. 묘호는 예종 자신의 유지에 따라 예종(睿宗)으로 결정됐고, 시호는 흠문성무의인소효(欽文聖武懿仁昭孝)이다.

• Loss: MultipleNegativesRankingLoss with these parameters:
  json

  1{ 2 "scale": 20.0, 3 "similarity_fct": "cos_sim" 4}

Training Hyperparameters

Non-Default Hyperparameters

• per_device_train_batch_size: 40
• gradient_accumulation_steps: 4
• adam_epsilon: 1e-07
• warmup_ratio: 0.1
• bf16: True
• dataloader_drop_last: True
• batch_sampler: no_duplicates

All Hyperparameters

Training Logs