SentenceTransformer

Model Details

Model Description

• Model Type: Sentence Transformer

• Maximum Sequence Length: 128 tokens
• Output Dimensionality: 384 dimensions
• Similarity Function: Cosine Similarity

Model Sources

• Documentation: Sentence Transformers Documentation
• Repository: Sentence Transformers on GitHub
• Hugging Face: Sentence Transformers on Hugging Face

Full Model Architecture

SentenceTransformer(
  (0): Transformer({'max_seq_length': 128, 'do_lower_case': False, 'architecture': 'BertModel'})
  (1): Pooling({'word_embedding_dimension': 384, 'pooling_mode_cls_token': False, 'pooling_mode_mean_tokens': True, 'pooling_mode_max_tokens': False, 'pooling_mode_mean_sqrt_len_tokens': False, 'pooling_mode_weightedmean_tokens': False, 'pooling_mode_lasttoken': False, 'include_prompt': True})
)

Usage

Direct Usage (Sentence Transformers)

Evaluation

Metrics

Information Retrieval

• Dataset: Vigilante-Medico
• Evaluated with InformationRetrievalEvaluator

Training Details

Training Dataset

Unnamed Dataset

• Size: 640 training samples
• Columns: sentence_0, sentence_1, and sentence_2
• Approximate statistics based on the first 640 samples:

  	sentence_0	sentence_1	sentence_2
  type	string	string	string
  details	min: 13 tokens mean: 104.5 tokens max: 128 tokens	min: 3 tokens mean: 23.37 tokens max: 128 tokens	min: 3 tokens mean: 22.56 tokens max: 128 tokens

• Samples:

  sentence_0	sentence_1	sentence_2
  Mulher, 30 anos, com história de colite ulcerosa há 3 meses, em terapêutica com infliximab há 2 meses, dá entrada no atendimento urgente com disenteria intensa, distensão abdominal, febre de 38ºC, taquicardia (120 bpm), anemia ligeira, hipotensão, dor abdominal e descompressão brusca negativa. Podemos afirmar que:	Deverá ser submetida a cirurgia de colectomia subtotal com ileostomia terminal.	A tomografia computorizada do abdómen não acrescenta nada ao diagnóstico em relação ao RX do abdómen.
  As cardiopatias congénitas são defeitos estruturais do coração que estão presentes na vida fetal e ao nascimento. Esse grupo representa cerca de 30% de todas as malformações congénitas e tem incidência em torno de 9,4 casos para cada 1000 nados-vivos. O diagnóstico das cardiopatias congénitas pode ser feito na vida fetal ou após o nascimento através do exame clínico pós-natal. Acerca do teste de oximetria de pulso (teste do pezinho), podemos afirmar:	O teste consiste em aferir a oximetria de pulso na mão direita (MSD) e num dos pés (MI) do recém-nascido, e considera-se como normal a SpO2 maior ou igual a 95% e uma diferença de SpO2 entre o membro superior direito e um dos membros inferiores menor ou igual a 3%.	Ao aferir a oximetria de pulso do RN, o valor de referência normal da SpO2 deve estar entre 90% e 94% ou uma diferença entre as medidas do membro superior direito e o membro inferior maior ou igual a 4%.
  Doente masculino, 20 anos, vítima de acidente de motociclo. A equipa de socorro pré-hospitalar refere que ele se encontrava sem capacete e com hálito alcoólico. O doente dá entrada na urgência com colar cervical e máscara de oxigénio 12L/minuto, mantendo via aérea permeável com cânula orofaríngea. A avaliação do pescoço e do tórax não apresenta alterações aparentes e a frequência respiratória é de 28cpm. Tensão Arterial de 90/60mmHg, Frequência Cardíaca de 68bpm, pele com temperatura normal. Ao ser chamado, o doente não abre os olhos, contudo, ao estímulo doloroso, abre os olhos, faz uma retirada inespecífica com o membro superior direito e não emite nenhum som vocal. Estava coberto com uma manta térmica. A partir dos dados desta história clínica, qual a melhor alternativa que contém o valor da Escala de Coma de Glasgow (ECG) e a conduta para este doente?	ECG 7; intubação orotraqueal.	ECG 9; reposição volémica agressiva.

• Loss: MultipleNegativesRankingLoss with these parameters:
  json

  1{ 2 "scale": 20.0, 3 "similarity_fct": "cos_sim", 4 "gather_across_devices": false 5}

Training Hyperparameters

Non-Default Hyperparameters

• eval_strategy: steps
• num_train_epochs: 10
• multi_dataset_batch_sampler: round_robin

All Hyperparameters

Training Logs

Framework Versions

• Python: 3.12.12
• Sentence Transformers: 5.2.2
• Transformers: 4.57.6
• PyTorch: 2.9.0+cu126
• Accelerate: 1.12.0
• Datasets: 4.0.0
• Tokenizers: 0.22.2

Citation

BibTeX

Sentence Transformers

MultipleNegativesRankingLoss