SentenceTransformer based on bkai-foundation-models/vietnamese-bi-encoder

Model Details

Model Description

• Model Type: Sentence Transformer
• Base model: bkai-foundation-models/vietnamese-bi-encoder
• Maximum Sequence Length: 256 tokens
• Output Dimensionality: 768 dimensions
• Similarity Function: Cosine Similarity

Model Sources

• Documentation: Sentence Transformers Documentation
• Repository: Sentence Transformers on GitHub
• Hugging Face: Sentence Transformers on Hugging Face

Full Model Architecture

SentenceTransformer(
  (0): Transformer({'max_seq_length': 256, 'do_lower_case': False, 'architecture': 'RobertaModel'})
  (1): Pooling({'word_embedding_dimension': 768, 'pooling_mode_cls_token': False, 'pooling_mode_mean_tokens': True, 'pooling_mode_max_tokens': False, 'pooling_mode_mean_sqrt_len_tokens': False, 'pooling_mode_weightedmean_tokens': False, 'pooling_mode_lasttoken': False, 'include_prompt': True})
)

Usage

Direct Usage (Sentence Transformers)

Evaluation

Metrics

Information Retrieval

• Datasets: val and test
• Evaluated with InformationRetrievalEvaluator

Training Details

Training Dataset

Unnamed Dataset

• Size: 2,787 training samples
• Columns: anchor, positive, and negative
• Approximate statistics based on the first 1000 samples:

  	anchor	positive	negative
  type	string	string	string
  details	min: 13 tokens mean: 27.55 tokens max: 49 tokens	min: 42 tokens mean: 194.72 tokens max: 256 tokens	min: 42 tokens mean: 198.05 tokens max: 256 tokens

• Samples:

  anchor	positive	negative
  Tại sao các học thuyết duy tâm thường được tôn giáo sử dụng làm cơ sở lý luận?	+ Chủ nghĩa duy tâm khách quan cũng thừa nhận tính thứ nhất của ý thức nhưng theo họ đấy là là thứ tinh thần khách quan có trước và tồn tại độc lập với con người. Thực thể tinh thần khách quan này thường mang những tên gọi khác nhau như ý niệm, tinh thần tuyệt đối, lý tính thế giới, v.v.. Chủ nghĩa duy tâm triết học cho rằng ý thức, tinh thần là cái có trước và sản sinh ra giới tự nhiên; như vậy là đã bằng cách này hay cách khác thừa nhận sự sáng tạo ra thế giới. Vì vậy, tôn giáo thường sử dụng các học thuyết duy tâm làm cơ sở lý luận, luận chứng cho các quan điểm của mình. Tuy nhiên, có sự khác nhau giữa chủ nghĩa duy tâm triết học với chủ nghĩa duy tâm tôn giáo. Trong thế giới quan tôn giáo, lòng tin là cơ sở chủ yếu và đóng vai trò chủ đạo. Còn chủ nghĩa duy tâm triết học lại là sản phẩm của tư duy lý tính dựa trên cơ sở tri thức và lý trí.	Còn chủ nghĩa duy tâm triết học lại là sản phẩm của tư duy lý tính dựa trên cơ sở tri thức và lý trí. Về phương diện nhận thức luận, sai lầm của chủ nghĩa duy tâm bắt nguồn từ cách xem xét phiến diện, tuyệt đối hóa, thần thánh hóa một mặt, một đặc tính nào đó của quá trình nhận thức mang tính biện chứng của con người. Cùng với nguồn gốc nhận thức luận, chủ nghĩa duy tâm ra đời còn do nguồn gốc xã hội. Sự tách rời lao động trí óc với lao động chân tay và địa vị thống trị của lao động trí óc đối với lao động chân tay trong các xã hội cũ đã tạo ra quan niệm về vai trò quyết định của nhân tố tinh thần. Các giai cấp thống trị và những lực lượng xã hội phản động ủng hộ, sử dụng chủ nghĩa duy tâm làm nền tảng lý luận cho những quan điểm chính trị - xã hội của mình.
  Theo Ph.Ăngghen, vấn đề cơ bản lớn của mọi triết học là gì?	Vấn đề cơ bản của triết học Triết học cũng như những khoa học khác phải giải quyết rất nhiều vấn đề có liên quan với nhau, trong đó vấn đề cực kỳ quan trọng là nền tảng và là điểm xuất phát để giải quyết những vấn đề còn lại được gọi là vấn đề cơ bản của triết học. Theo Ăngghen: "Vấn đề cơ bản lớn của mọi triết học, đặc biệt là của triết học hiện đại, là vấn đề quan hệ giữa tư duy với tồn tại"1.	C.Mác và Ph.Ăngghen: Toàn tập, Nxb. Chính trị quốc gia, Hà Nội, 1995, t.21, tr. Giải quyết vấn đề cơ bản của triết học không chỉ xác định được nền tảng và điểm xuất phát để giải quyết các vấn đề khác của triết học mà nó còn là tiêu chuẩn để xác định lập trường, thế giới quan của các triết gia và học thuyết của họ. Vấn đề cơ bản của triết học có hai mặt, mỗi mặt phải trả lời cho một câu hỏi lớn. Mặt thứ nhất: Giữa ý thức và vật chất thì cái nào có trước, cái nào có sau, cái nào quyết định cái nào? Mặt thứ hai: Con người có khả năng nhận thức được thế giới hay không? Trả lời cho hai câu hỏi trên liên quan mật thiết đến việc hình thành các trường phái triết học và các học thuyết về nhận thức của triết học.
  Chủ nghĩa duy vật chất phác là kết quả nhận thức của các nhà triết học thuộc thời kỳ nào?	Chủ nghĩa duy vật, chủ nghĩa duy tâm và thuyết không thể biết a) Chủ nghĩa duy vật và chủ nghĩa duy tâm Việc giải quyết mặt thứ nhất vấn đề cơ bản của triết học đã chia các nhà triết học thành hai trường phái lớn. Những người cho rằng vật chất, giới tự nhiên là cái có trước và quyết định ý thức của con người được coi là các nhà duy vật; học thuyết của họ hợp thành các môn phái khác nhau của chủ nghĩa duy vật. Ngược lại, những người cho rằng, ý thức, tinh thần có trước giới tự nhiên được gọi là các nhà duy tâm; họ hợp thành các môn phái khác nhau của chủ nghĩa duy tâm. - Chủ nghĩa duy vật: Cho đến nay, chủ nghĩa duy vật đã được thể hiện dưới ba hình thức cơ bản: chủ nghĩa duy vật chất phác, chủ nghĩa duy vật siêu hình và chủ nghĩa duy vật biện chứng. + Chủ nghĩa duy vật chất phác là kết quả nhận thức của các nhà triết học duy vật thời cổ đại.	Những người theo chủ nghĩa duy tâm cho rằng "vật chất" của chủ nghĩa duy vật đã biến mất, nền tảng của chủ nghĩa duy vật đã sụp đổ. Sự phát triển của khoa học và cuộc đấu tranh chống chủ nghĩa duy tâm đòi hỏi các nhà duy vật phải có quan điểm đúng đắn hơn về vật chất qua định nghĩa kinh điển về vật chất của V.I. Lênin. c) Quan điểm của chủ nghĩa duy vật biện chứng về vật chất Kế thừa tư tưởng của C. Mác và Ph. ăngghen; tổng kết những thành tựu khoa học tự nhiên cuối thế kỷ XIX, đầu thế kỷ XX và từ nhu cầu của cuộc đấu tranh chống chủ nghĩa duy tâm, V.I. Lênin đã định nghĩa: "Vật chất là một phạm trù triết học dùng để chỉ thực tại khách quan được đem lại cho con người trong cảm giác, được cảm giác của chúng ta chép lại, chụp lại, phản ánh và tồn tại không lệ thuộc vào cảm giác"1 (TG nhấn mạnh). ở định nghĩa này, V.I.

• Loss: MultipleNegativesRankingLoss with these parameters:
  json

  1{ 2 "scale": 20.0, 3 "similarity_fct": "cos_sim", 4 "gather_across_devices": false 5}

Evaluation Dataset

Unnamed Dataset

• Size: 616 evaluation samples
• Columns: anchor and positive
• Approximate statistics based on the first 616 samples:

  	anchor	positive
  type	string	string
  details	min: 13 tokens mean: 27.56 tokens max: 50 tokens	min: 63 tokens mean: 190.8 tokens max: 256 tokens

• Samples:

  anchor	positive
  Tại sao việc nắm vững đối tượng và phương pháp điều chỉnh của Luật Dân sự lại quan trọng đối với người học?	Chương 6 đề cập đến những kiến thức mang tính tổng quan của Luật Dân sự, giúp người đọc có cái nhìn chung nhất về đối tượng điều chỉnh và phương pháp điều chỉnh của Luật Dân sự, chủ thể của quan hệ pháp luật dân sự làm cơ sở tiền đề cho việc nghiên cứu các chế định cụ thể liên quan. Các nội dung được đề cập trong
  Hoạt động chấp hành và điều hành của nhà nước thể hiện điều gì trong quan hệ pháp luật hành chính?	Khái niệm và đặc điểm Quan hệ pháp luật hành chính là những quan hệ xã hội phát sinh trong lĩnh vực chấp hành và điều hành của nhà nước được điều chỉnh bởi quy phạm pháp luật hành chính giữa những chủ thể mang quyền và nghĩa vụ đối với nhau theo quy định của pháp luật hành chính. Quan hệ pháp luật hành chính là một dạng của quan hệ pháp luật, do vậy ngoài mang những đặc điểm của một quan hệ pháp luật nói chung, quan hệ pháp luật hành chính còn có những đặc điểm riêng sau: - Quan hệ pháp luật hành chính chủ yếu chỉ phát sinh trong quá trình quản lý hành chính nhà nước trên các lĩnh vực khác nhau của đời sống xã hội, luôn gắn liền với hoạt động chấp hành và điều hành của nhà nước, chúng vừa thể hiện lợi ích của các bên tham gia quan hệ vừa thể hiện những yêu cầu và mục đích của hoạt động chấp hành - điều hành. Chủ biên TS.
  Yếu tố nào quyết định sự khác biệt về nội dung và thời điểm phát sinh năng lực chủ thể giữa các đối tượng tham gia quan hệ pháp luật hành chính?	Chủ thể của quan hệ pháp luật hành chính Chủ thể của quan hệ pháp luật hành chính là các cơ quan, tổ chức, cá nhân có năng lực chủ thể tham gia vào quan hệ pháp luật hành chính, mang quyền và nghĩa vụ đối với nhau theo quy định của pháp luật hành chính. Như vậy, điều kiện để các cơ quan, tổ chức, cá nhân trở thành chủ thể của quan hệ pháp luật hành chính là các cơ quan, tổ chức, cá nhân đó phải có năng lực chủ thể phù hợp với quan hệ pháp luật hành chính mà họ tham gia. Xét về mặt thuật ngữ, năng lực chủ thể là khả năng pháp lý của cơ quan, tổ chức hoặc cá nhân tham gia vào quan hệ pháp luật hành chính với tư cách là chủ thể của quan hệ đó. Tuỳ thuộc vào tư cách của các cơ quan, tổ chức và cá nhân, mà năng lực chủ thể của họ có những điểm khác nhau về nội dung, thời điểm phát sinh và các yếu tố chi phối.

• Loss: MultipleNegativesRankingLoss with these parameters:
  json

  1{ 2 "scale": 20.0, 3 "similarity_fct": "cos_sim", 4 "gather_across_devices": false 5}

Training Hyperparameters

Non-Default Hyperparameters

• eval_strategy: steps
• per_device_train_batch_size: 32
• per_device_eval_batch_size: 32
• learning_rate: 5e-06
• weight_decay: 0.01
• num_train_epochs: 2
• warmup_steps: 17
• fp16: True
• load_best_model_at_end: True

All Hyperparameters

Training Logs

• The bold row denotes the saved checkpoint.

Framework Versions

• Python: 3.12.12
• Sentence Transformers: 5.2.3
• Transformers: 5.0.0
• PyTorch: 2.10.0+cu128
• Accelerate: 1.12.0
• Datasets: 4.8.3
• Tokenizers: 0.22.2

Citation

BibTeX

Sentence Transformers

MultipleNegativesRankingLoss