Qwen3-0.6B - sumarizacija | |
|
Модел за сумаризацију заснован на Qwen3 моделу - 600 милиона параметара
|
Summarization model based on Qwen3 model - 600 million parameters
|
1>>> from transformers import Qwen3ForCausalLM, Qwen2TokenizerFast
2>>> import torch
3
4>>> device = torch.device("cuda" if torch.cuda.is_available() else "cpu")
5>>> model = Qwen3ForCausalLM.from_pretrained("te-sla/sum600")
6>>> model.to(device)
7>>> model.eval()
8>>> tokenizer = Qwen2TokenizerFast.from_pretrained("te-sla/sum600", padding_side="left")
9>>> eos_token = "<|endoftext|>"
10>>> tokenizer.pad_token = eos_token
11>>> tokenizer.pad_token_id = tokenizer.convert_tokens_to_ids(tokenizer.pad_token)
12>>> tokenizer.eos_token = tokenizer.pad_token
13>>> tokenizer.eos_token_id = tokenizer.pad_token_id
14>>> tokenizer.padding_side = "left"
15
16>>> text = "Trombofilija nastaje kao rezultat kompleksne interakcije između negenetičkih i genetičkih faktora rizika koji hemostaznu ravnotežu pomeraju u smeru hiperkoagulacije i dovode do pojave tromboze. Veoma značajan faktor rizika za nastanak trombofilije je deficijencija inhibitora koagulacije: antitrombina, proteina C ili proteina S. Veliki korak u razumevanju genetičke osnove i molekularne dijagnostike trombofilije napravljen je otkrićem rezistencije na aktivirani protein C i faktor V Leiden mutacije. Ubrzo je otkrivena i varijanta u 3'-nekodirajucem regionu gena za faktor II (FII G20210A), za koju je pokazano da dovodi do povišene koncentracije protrombina u plazmi. Ove dve genske varijante su najučestaliji genetički faktori rizika za nastanak trombofilije. Nedavno je opisana nova mutacija u genu za protrombin (c.1787G gt T) za koju je pokazano da dovodi do rezistencije na antitrombin, odnosno do smanjene mogućnosti inaktivacije mutiranog trombina od strane antitrombina, sto predstavlja novi mehanizam za nastanak trombofilije. U toku poslednjih decenija, opisan je veliki broj genetičkih faktora rizika za nastanak trombofilije, uključuju}i one koji dovode do: nedostatka inhibitora koagulacije, povećanog nivoa ili smanjene inaktivacije koagulacionih faktora ili defekata sistema za fibrinolizu. Međutim, većina njih nije od dijagnostičke važnosti zbog njihovog malog ili još uvek nepoznatog uticaja na etiologiju trombofilije. Primena novih tehnologija koje omogućavaju analizu velikog broja gena kod jednog pacijenta otvoriće mogućnost individualnog utvrđivanja genetičkih faktora rizika, samim tim i adekvatan terapeutski pristup."
17>>> text += eos_token
18>>> inputs = tokenizer(text, return_tensors="pt", padding="longest", truncation=True, max_length=1024)
19>>> inputs = {k: v.to(device) for k, v in inputs.items()}
20>>> prompt_length = inputs["input_ids"].shape[1]
21
22>>> with torch.no_grad():
23>>> generated_ids = model.generate(
24>>> input_ids=inputs["input_ids"],
25>>> attention_mask=inputs["attention_mask"],
26>>> max_new_tokens=200,
27>>> no_repeat_ngram_size=3,
28>>> num_beams=6,
29>>> min_length = 50,
30>>> length_penalty = 0,
31>>> early_stopping = True,
32>>> pad_token_id = tokenizer.pad_token_id,
33>>> eos_token_id = tokenizer.pad_token_id)
34
35>>> generated_ids = generated_ids.cpu()
36>>> decoded_output = tokenizer.decode(generated_ids[0][prompt_length:], skip_special_tokens=True).strip()
37
38>>> print(decoded_output)>>> Nova mutacija kod gena za prodovebina omogućava rezibilnost na antidovebina, što je ključno za mehanizme nastanka trombozi.
|
Истраживање jе спроведено уз подршку Фонда за науку Републике Србиjе, #7276, Text Embeddings – Serbian Language Applications – TESLA
|
This research was supported by the Science Fund of the Republic of Serbia, #7276, Text Embeddings - Serbian Language Applications - TESLA
|