Views
No views yet
SentenceTransformer(
(0): Transformer({'max_seq_length': 8192, 'do_lower_case': False}) with Transformer model: XLMRobertaModel
(1): Pooling({'word_embedding_dimension': 1024, 'pooling_mode_cls_token': True, 'pooling_mode_mean_tokens': False, 'pooling_mode_max_tokens': False, 'pooling_mode_mean_sqrt_len_tokens': False, 'pooling_mode_weightedmean_tokens': False, 'pooling_mode_lasttoken': False, 'include_prompt': True})
(2): Normalize()
)pip install -U sentence-transformers1from sentence_transformers import SentenceTransformer
2
3# Download from the 🤗 Hub
4model = SentenceTransformer("pablosi/bge-m3-spa-law-qa-trained-2")
5# Run inference
6sentences = [
7 '¿Cuál es la disposición que se refiere a la hora de cierre de los establecimientos públicos en días laborables según el artículo 1.°?',
8 'n de las adscripciones o representaciones a que\nse refieren distintos apartados del artículo 11,2 del citado De\xad\n\n#### Art. 2:° Los sábados y vísperas de días festivos, los espec- creto orgánico del Consejo Nacional de Educación, táculos podrán terminar y los establecimientos públicos podrán Este Ministerio, haciendo uso de las atribuciones que le con\xad cerrar media hora más tarde de la que se determina en el fiere la disposición final segunda del citado Decreto orgánico, artículo l.° y de conformidad con el dictamen de la Asesoría Jurídica del\n Departamento, ha tenido a bien disponer lo siguiente:\n Art. 3.° La hora de cierre de los frontones podrá prorrogar\xad\nse excepcionalmente, en caso de empate de los partidos, hasta Primero.—Lo dispuesto en el artículo 14 del Decreto 2763/1971,\n\nde 21 de octubre, que organizó el Consejo Nacional de Educa\xad\n\n#### que sea necesaria, siempre que éstos hubieran comenzado a la hora establecida. ción, respecto de los Consejeros que lo fueran por razón de su\n cargo, debe entenderse no sólo respecto de los Consejeros natos,\n Art. 4.° Los bares interiores de los hoteles podrán retrasar sino también de los Consejeros designados por este Ministerio, su hora',
9 'o corrientes** 0330 ........................\n\n**TOTAL ACTIVO (A+B)** 0340 ........................\n\n**PASIVO Y PATRIMONIO NETO**\n\n\n**A) PASIVO CORRIENTE** 0350 ........................\n\n**I. Periodificaciones** 0360 ........................\n**II. Acreedores y cuentas a pagar** 0370 ........................\n**III. Deudas con empresas del grupo y asociadas a corto plazo** 0380 ........................\n**IV. Deudas a corto plazo** 0390 ........................\n**V. Provisiones a corto plazo** 0400 ........................\n**VI. Otros pasivos corrientes** 0410 ........................\n\n**B) PASIVO NO CORRIENTE** 0420 ........................\n\n**I. Periodificaciones** 0430 ........................\n**II. Pasivos por impuesto diferido** 0440 ........................\n**III. Deudas con empresas del grupo y asociadas a largo plazo** 0450 ........................\n**IV. Deudas a largo plazo** 0460 ........................\n**V. Provisiones a largo plazo** 0470 ........................\n**VI. Otros pasivos no corrientes** 0480 ........................\n**TOTAL PASIVO (A+B)** 0490 ........................\n\n**C) PATRIMONIO NETO** 0500 ........................\n\n**C-1) FONDOS REEMBOLSABLES** 0510 ....',
10]
11embeddings = model.encode(sentences)
12print(embeddings.shape)
13# [3, 1024]
14
15# Get the similarity scores for the embeddings
16similarities = model.similarity(embeddings, embeddings)
17print(similarities.shape)
18# [3, 3]dim_1024 and dim_768InformationRetrievalEvaluator| Metric | dim_1024 | dim_768 |
|---|---|---|
| cosine_accuracy@1 | 0.2282 | 0.2242 |
| cosine_accuracy@3 | 0.754 | 0.75 |
| cosine_accuracy@5 | 0.8373 | 0.8274 |
| cosine_accuracy@10 | 0.877 | 0.879 |
| cosine_precision@1 | 0.2282 | 0.2242 |
| cosine_precision@3 | 0.2513 | 0.25 |
| cosine_precision@5 | 0.1675 | 0.1655 |
| cosine_precision@10 | 0.0877 | 0.0879 |
| cosine_recall@1 | 0.2282 | 0.2242 |
| cosine_recall@3 | 0.754 | 0.75 |
| cosine_recall@5 | 0.8373 | 0.8274 |
| cosine_recall@10 | 0.877 | 0.879 |
| cosine_ndcg@10 | 0.6037 | 0.6021 |
| cosine_mrr@10 | 0.511 | 0.5084 |
| cosine_map@100 | 0.5166 | 0.5139 |
question and context| question | context | |
|---|---|---|
| type | string | string |
| details |
|
|
| question | context |
|---|---|
¿Cuáles son las funciones que corresponden a la Vicesecretaría General Técnica en relación con el régimen interior y económico? | Explotación[object Object][object Object]###### Artículo octavo y de Señales Marítimas.[object Object][object Object]A la Vicesecretaría General Técnica corresponden las funcio~[object Object][object Object]nes relativas al régimen interior y económico, información, [object Object][object Object]iniciativas, derecho de petición, archivo, biblioteca, documen-[object Object][object Object]La Dirección General de Transportes Terrestres estará. inte-[object Object][object Object]tación, relaciones internacionales y demás que le encomiende[object Object][object Object]grada por las siguientes unidades:[object Object][object Object]el Secretario general Técnico.[object Object][object Object] - Subdirección General de Planificación y Obras.[object Object][object Object]###### Articulo noveno - Subdirección General de Explotación.[object Object][object Object]La Subdirección General de Programación Económica. tendrá [object Object][object Object]a. su 'cargo la realización de estudios económicos, elaboración[object Object]de las estadisticas del Departamento, estudios y proyectos de A la Subdirección General de Planificación y Obras le, correS'"[object Object]financiación e informes sobre inversiones y realizaciones del ponderá el examen de anteproye... |
¿Qué tipo de documentación oficial deben exhibir los funcionarios y agentes de las administraciones comunes del país limitrofe para acreditar su nacionalidad, identidad, calidad y naturaleza de sus funciones? | ones conı[object Object]neD!"'.! . bajo lOS :ıuspicios de la Comisi6n econ6mic:ı Europea petent,sdel pais limitrofe deberiıı llevar el uniforme ıiacional[object Object]con el fin. [object Object] !'acilitar el paso de ıa. fronteras a l:l.'i memıncias o el signo discintivo prescl'ito por los reglamentos de dicho pais.[object Object]transportadas POl' via .fcrrea. 3. 10s funcionarios y agentes de las administraciones com-[object Object]aeuerdan 10 siguiente': petentes del pais limitrofe que tengaıı que dirigirse a La esıa[object Object][object Object]cl6n p:mi la reallzacl6n de la.> ln,pecciones previstas POl' ci pre-[object Object][object Object]TITULOI sente Convenio queoar:ın dispensados de las formalidades de[object Object][object Object]pasaportes. La exhibici6n de su documentaci6n cficial ser:i. su-[object Object][object Object]CreQ~on y regiınen [object Object] cstadorıt's [object Object] [object Object] [object Object] [object Object] ficiente para acreditar su nacionalidad. su jdenıidad. su ca.lidad[object Object][object Object]nC!dr...~a.!rz ;:u.:::ta-p--.ıcsta:; y la naturaleza de sus funcia:ıes.[object Object][object Object]4. LCIlI lunciona.rios )' agent.>s mencıonad05 en 105 parra-[object Object][object Object]Artıculo primero fas 2 y 3 de! presente articulo recibiri... |
¿Cuál es el período máximo de vinculación provisional o a prueba que pueden establecer los estatutos de una sociedad cooperativa de segundo grado? | ría en los estatutos, que también podrá regular un período de vinculación[object Object]provisional o a prueba de hasta dos años.[object Object][object Object]3. El socio persona jurídica que pretenda darse de baja habrá de cursar un preaviso[object Object]de al menos un año. Trascurrido el periodo de preaviso y antes de su efectiva separación[object Object]estará obligado a cumplir las obligaciones contraídas con la sociedad cooperativa de[object Object]segundo grado o a resarcirla económicamente, si así lo decide el consejo rector de esta.[object Object]Asimismo, salvo previsión estatutaria en contra, la entidad separada deberá continuar[object Object]desarrollando, durante un plazo no inferior a dos años, aquellos compromisos adquiridos[object Object]que hubiera asumido con anterioridad a la fecha de la baja.[object Object][object Object]Artículo 132. Régimen económico.[object Object][object Object][object Object]Las aportaciones obligatorias al capital social de una sociedad cooperativa de[object Object]segundo grado se realizarán en función de la actividad cooperativizada comprometida[object Object]con aquella por cada socio.[object Object][object Object]Artículo 133. Órganos sociales.[object Object][object Object][object Object]1. La asamblea general estará formada po... |
MatryoshkaLoss with these parameters:
1{
2 "loss": "MultipleNegativesRankingLoss",
3 "matryoshka_dims": [
4 1024,
5 768
6 ],
7 "matryoshka_weights": [
8 1,
9 1
10 ],
11 "n_dims_per_step": -1
12}question and context| question | context | |
|---|---|---|
| type | string | string |
| details |
|
|
| question | context |
|---|---|
¿Qué tipo de productos están excluidos de la aplicación del Real Decreto 1801/2003, de 26 de diciembre, sobre seguridad general de los productos? | 1801/2003, de 26[object Object]de diciembre, sobre seguridad general de los productos,[object Object]para aquellos productos afectados por este real decreto, a[object Object]excepción de los productos de renovación del acabado de[object Object]vehículos.[object Object]b) Las previstas en la Ley 21/1992, de 16 de julio, de[object Object]Industria, para los productos de renovación del acabado[object Object]de vehículos afectados por este real decreto.[object Object][object Object]2. Los productos objeto de este real decreto serán[object Object]considerados seguros cuando cumplan, además de los[object Object]requisitos que les sean exigibles por la legislación vigente,[object Object]lo dispuesto en este real decreto.[object Object][object Object][object Object]Artículo 6. [object Object] [object Object] [object Object] [object Object] [object Object][object Object][object Object][object Object][object Object]Las comunidades autónomas remitirán al Ministerio de[object Object]Medio Ambiente un informe que contenga los resultados[object Object]de las medidas del programa de control al que se refiere el[object Object]artículo 5 y una relación de las categorías y cantidades de[object Object]producto para cuya compraventa hayan concedido permisos, según lo dispuesto en la disposición adicional[object Object]segunda, a efectos de su comunicación a l... |
¿En qué artículo de la Constitución se basa el Estado para dictar la legislación procesal mencionada en el texto? | tencia estatal.[object Object][object Object][object Object]JUAN CARLOS I[object Object][object Object]REY DE ESPAÑA[object Object][object Object]A todos los que la presente vieren y entendieren.[object Object]Sabed: Que las Cortes Generales han aprobado y Yo[object Object]vengo en sancionar la siguiente Ley.[object Object][object Object]EXPOSICIÓN DE MOTIVOS[object Object][object Object]La Constitución en su artículo 20 garantiza valores de[object Object]pluralismo, veracidad y accesibilidad con el fin de contribuir a la formación de una opinión pú... |
¿Cuál es el propósito principal de la Comisión Mixta establecida en el Artículo 30? | Organismos de Enlace de ambas Partes intercambiarán los datos estadísticos relativos a los pagos de[object Object]prestaciones efectuados a los beneficiarios de una Parte[object Object]que residan en el territorio de la otra Parte. Dichos datos[object Object]contendrán el número de beneficiarios y el importe total[object Object]de las prestaciones abonadas durante cada año civil.[object Object]2. Las Autoridades y los Organismos de Enlace de[object Object]ambas Partes estarán obligados a facilitar, cuando les[object Object]sean requeridos por la otra Parte, toda la información y[object Object]datos sobre los sistemas de cálculo de los costes de las[object Object]prestaciones sanitarias.[object Object][object Object]Artículo 30. [object Object][object Object][object Object]Con el fin de resolver cuantos problemas puedan surgir en aplicación del Convenio y el presente Acuerdo[object Object]Administrativo, así como para el seguimiento de los mismos, las Autoridades Competentes de ambas Partes[object Object]podrán reunirse en Comisión Mixta, asistidas por representantes de sus respectivas Instituciones Competentes.[object Object][object Object]Artículo 31. [object Object][object Object][object Object]Las prestaciones que, conforme a la leg... |
MatryoshkaLoss with these parameters:
1{
2 "loss": "MultipleNegativesRankingLoss",
3 "matryoshka_dims": [
4 1024,
5 768
6 ],
7 "matryoshka_weights": [
8 1,
9 1
10 ],
11 "n_dims_per_step": -1
12}eval_strategy: epochper_device_train_batch_size: 16per_device_eval_batch_size: 16gradient_accumulation_steps: 16learning_rate: 2e-05num_train_epochs: 8lr_scheduler_type: cosinewarmup_ratio: 0.1bf16: Truetf32: Truedataloader_num_workers: 4load_best_model_at_end: Trueoptim: adamw_torch_fusedgradient_checkpointing: Truebatch_sampler: no_duplicatesoverwrite_output_dir: Falsedo_predict: Falseeval_strategy: epochprediction_loss_only: Trueper_device_train_batch_size: 16per_device_eval_batch_size: 16per_gpu_train_batch_size: Noneper_gpu_eval_batch_size: Nonegradient_accumulation_steps: 16eval_accumulation_steps: Nonetorch_empty_cache_steps: Nonelearning_rate: 2e-05weight_decay: 0.0adam_beta1: 0.9adam_beta2: 0.999adam_epsilon: 1e-08max_grad_norm: 1.0num_train_epochs: 8max_steps: -1lr_scheduler_type: cosinelr_scheduler_kwargs: {}warmup_ratio: 0.1warmup_steps: 0log_level: passivelog_level_replica: warninglog_on_each_node: Truelogging_nan_inf_filter: Truesave_safetensors: Truesave_on_each_node: Falsesave_only_model: Falserestore_callback_states_from_checkpoint: Falseno_cuda: Falseuse_cpu: Falseuse_mps_device: Falseseed: 42data_seed: Nonejit_mode_eval: Falseuse_ipex: Falsebf16: Truefp16: Falsefp16_opt_level: O1half_precision_backend: autobf16_full_eval: Falsefp16_full_eval: Falsetf32: Truelocal_rank: 0ddp_backend: Nonetpu_num_cores: Nonetpu_metrics_debug: Falsedebug: []dataloader_drop_last: Falsedataloader_num_workers: 4dataloader_prefetch_factor: Nonepast_index: -1disable_tqdm: Falseremove_unused_columns: Truelabel_names: Noneload_best_model_at_end: Trueignore_data_skip: Falsefsdp: []fsdp_min_num_params: 0fsdp_config: {'min_num_params': 0, 'xla': False, 'xla_fsdp_v2': False, 'xla_fsdp_grad_ckpt': False}fsdp_transformer_layer_cls_to_wrap: Noneaccelerator_config: {'split_batches': False, 'dispatch_batches': None, 'even_batches': True, 'use_seedable_sampler': True, 'non_blocking': False, 'gradient_accumulation_kwargs': None}deepspeed: Nonelabel_smoothing_factor: 0.0optim: adamw_torch_fusedoptim_args: Noneadafactor: Falsegroup_by_length: Falselength_column_name: lengthddp_find_unused_parameters: Noneddp_bucket_cap_mb: Noneddp_broadcast_buffers: Falsedataloader_pin_memory: Truedataloader_persistent_workers: Falseskip_memory_metrics: Trueuse_legacy_prediction_loop: Falsepush_to_hub: Falseresume_from_checkpoint: Nonehub_model_id: Nonehub_strategy: every_savehub_private_repo: Falsehub_always_push: Falsegradient_checkpointing: Truegradient_checkpointing_kwargs: Noneinclude_inputs_for_metrics: Falseinclude_for_metrics: []eval_do_concat_batches: Truefp16_backend: autopush_to_hub_model_id: Nonepush_to_hub_organization: Nonemp_parameters:auto_find_batch_size: Falsefull_determinism: Falsetorchdynamo: Noneray_scope: lastddp_timeout: 1800torch_compile: Falsetorch_compile_backend: Nonetorch_compile_mode: Nonedispatch_batches: Nonesplit_batches: Noneinclude_tokens_per_second: Falseinclude_num_input_tokens_seen: Falseneftune_noise_alpha: Noneoptim_target_modules: Nonebatch_eval_metrics: Falseeval_on_start: Falseuse_liger_kernel: Falseeval_use_gather_object: Falseaverage_tokens_across_devices: Falseprompts: Nonebatch_sampler: no_duplicatesmulti_dataset_batch_sampler: proportional| Epoch | Step | Training Loss | Validation Loss | dim_1024_cosine_ndcg@10 | dim_768_cosine_ndcg@10 |
|---|---|---|---|---|---|
| 0.2817 | 5 | 0.3683 | - | - | - |
| 0.5634 | 10 | 0.2652 | - | - | - |
| 0.8451 | 15 | 0.1906 | - | - | - |
| 0.9577 | 17 | - | 0.1344 | 0.6292 | 0.6278 |
| 1.1549 | 20 | 0.1341 | - | - | - |
| 1.4366 | 25 | 0.1358 | - | - | - |
| 1.7183 | 30 | 0.0547 | - | - | - |
| 1.9437 | 34 | - | 0.1179 | 0.6247 | 0.6198 |
| 2.0282 | 35 | 0.0553 | - | - | - |
| 2.3099 | 40 | 0.0433 | - | - | - |
| 2.5915 | 45 | 0.0376 | - | - | - |
| 2.8732 | 50 | 0.0248 | - | - | - |
| 2.9296 | 51 | - | 0.1209 | 0.6203 | 0.6152 |
| 3.1831 | 55 | 0.0209 | - | - | - |
| 3.4648 | 60 | 0.0246 | - | - | - |
| 3.7465 | 65 | 0.0119 | - | - | - |
| 3.9718 | 69 | - | 0.1167 | 0.6194 | 0.6133 |
| 4.0563 | 70 | 0.014 | - | - | - |
| 4.3380 | 75 | 0.0164 | - | - | - |
| 4.6197 | 80 | 0.0117 | - | - | - |
| 4.9014 | 85 | 0.0091 | - | - | - |
| 4.9577 | 86 | - | 0.1234 | 0.6046 | 0.6067 |
| 5.2113 | 90 | 0.0082 | - | - | - |
| 5.4930 | 95 | 0.0119 | - | - | - |
| 5.7746 | 100 | 0.0061 | - | - | - |
| 5.9437 | 103 | - | 0.1288 | 0.6050 | 0.6018 |
| 6.0845 | 105 | 0.0069 | - | - | - |
| 6.3662 | 110 | 0.0133 | - | - | - |
| 6.6479 | 115 | 0.0059 | - | - | - |
| 6.9296 | 120 | 0.006 | 0.1301 | 0.5960 | 0.5984 |
| 7.2394 | 125 | 0.0061 | - | - | - |
| 7.5211 | 130 | 0.0101 | - | - | - |
| 7.8028 | 135 | 0.005 | - | - | - |
| 7.8592 | 136 | - | 0.1305 | 0.6037 | 0.6021 |
1@inproceedings{reimers-2019-sentence-bert,
2 title = "Sentence-BERT: Sentence Embeddings using Siamese BERT-Networks",
3 author = "Reimers, Nils and Gurevych, Iryna",
4 booktitle = "Proceedings of the 2019 Conference on Empirical Methods in Natural Language Processing",
5 month = "11",
6 year = "2019",
7 publisher = "Association for Computational Linguistics",
8 url = "https://arxiv.org/abs/1908.10084",
9}1@misc{kusupati2024matryoshka,
2 title={Matryoshka Representation Learning},
3 author={Aditya Kusupati and Gantavya Bhatt and Aniket Rege and Matthew Wallingford and Aditya Sinha and Vivek Ramanujan and William Howard-Snyder and Kaifeng Chen and Sham Kakade and Prateek Jain and Ali Farhadi},
4 year={2024},
5 eprint={2205.13147},
6 archivePrefix={arXiv},
7 primaryClass={cs.LG}
8}1@misc{henderson2017efficient,
2 title={Efficient Natural Language Response Suggestion for Smart Reply},
3 author={Matthew Henderson and Rami Al-Rfou and Brian Strope and Yun-hsuan Sung and Laszlo Lukacs and Ruiqi Guo and Sanjiv Kumar and Balint Miklos and Ray Kurzweil},
4 year={2017},
5 eprint={1705.00652},
6 archivePrefix={arXiv},
7 primaryClass={cs.CL}
8}