Views
No views yet
1import torch
2from peft import PeftModel
3from transformers import AutoTokenizer, AutoModelForCausalLM, BitsAndBytesConfig, LlamaTokenizer
4
5model_name = "decapoda-research/llama-30b-hf"
6
7bnb_config = BitsAndBytesConfig(
8 load_in_4bit=True,
9 bnb_4bit_use_double_quant=True,
10 bnb_4bit_quant_type="nf4",
11 bnb_4bit_compute_dtype=torch.bfloat16
12)
13
14model = AutoModelForCausalLM.from_pretrained(model_name, quantization_config=bnb_config, device_map={"":0}, trust_remote_code=True)
15model = PeftModel.from_pretrained(model,name_save_path)
16
17tokenizer = LlamaTokenizer.from_pretrained("Lajonbot/llama-30b-hf-pl-lora")
18
19for query in querys:
20 get_answer_alpaca(query, model, tokenizer, params = {"temperature":1.0, "top_p":0.95, "repetition_penalty":1.15})
21
22****************************************************************************************************
23 ⁇ Poniżej znajduje się instrukcja opisująca zadanie, połączona z danymi wejściowymi, które zapewniają dalszy kontekst. Napisz odpowiedź, która odpowiednio odpowie na pytanie.
24### Instruction:
25Czy firma ING jest otwarta w sobotę?
26### Input:
27Firma ING jest otwarta w poniedziałek, wtorek i środę od godziny 10 do 18.
28### Response:
29"ING nie jest otwarty w sobotę."
30****************************************************************************************************
31 ⁇ Poniżej znajduje się instrukcja opisująca zadanie, połączona z danymi wejściowymi, które zapewniają dalszy kontekst. Napisz odpowiedź, która odpowiednio odpowie na pytanie.
32### Instruction:
33Jeżeli użytkownik nie otrzymał pozytywnej decyzji kredytowej to czy umowa pożyczki może byc zawarta
34### Input:
35Umowa o pożyczkę może być zawarta za pośrednictwem Serwisu, jeśli Użytkownik:
36a. uzupełni oraz przekaże Bankowi poprzez Serwis wszystkie niezbędne informacje, w tym Dane
37identyfikacyjne i czytelny skan/ zdjęcie obu stron dowodu osobistego;
38b. otrzyma pozytywną decyzję kredytową.
39### Response:
40"Nie, umowa o pożyczce nie może być zawarta przez użytkownika, który nie otrzymał pozytywnej decyzji kredytowej. W przypadku gdy użytkownik nie otrzymał pozytywnej decyzji kredytowej, bank nie będzie mógł podpisać umowy o pożyczce."
41
42## Zobacz też
43
44* testowanie jakościowe
45****************************************************************************************************
46 ⁇ Poniżej znajduje się instrukcja opisująca zadanie, połączona z danymi wejściowymi, które zapewniają dalszy kontekst. Napisz odpowiedź, która odpowiednio odpowie na pytanie.
47### Instruction:
48Przed jakimi chorobami chroni jedzenie szpinaku?
49### Input:
50e. jedzenie liści szpinaku chroni między innymi przed miażdżycą i przed rozwojem chorób nowotworowych
51### Response:
52"Szpinak jest bogatym źródłem witamin A, C i K oraz minerałów takich jak żelazo, potas, magnez, fosfor i wapń. Szpinak zawiera również dużo białka, a także składników odżywczych, takich jak beta-karoten, lutein, kryptoksantyna, antocyjaniny i inne flawonoidy. Wszystkie te składniki są ważne dla zdrowego funkcjonowania organizmu i mogą pomóc zapobiec wielu chorobom."
53****************************************************************************************************
54 ⁇ Poniżej znajduje się instrukcja opisująca zadanie, połączona z danymi wejściowymi, które zapewniają dalszy kontekst. Napisz odpowiedź, która odpowiednio odpowie na pytanie.
55### Instruction:
56Przed jakimi chorobami chroni jedzenie szpinaku?
57### Input:
58Umowa o pożyczkę może być zawarta za pośrednictwem Serwisu, jeśli Użytkownik:
59a. uzupełni oraz przekaże Bankowi poprzez Serwis wszystkie niezbędne informacje, w tym Dane
60identyfikacyjne i czytelny skan/ zdjęcie obu stron dowodu osobistego;
61b. za pomocą Serwisu przekaże dokumenty potwierdzające jego dochody w formie wskazanej przez Bank – o
62ile Bank będzie tego wymagał;
63c. podczas wnioskowania o pożyczkę wykona przelew ze swojego rachunku bankowego w sposób określony
64przez Bank w wysokości 1 zł, który zostanie automatycznie zwrócony na rachunek Użytkownika; dane o
65tym rachunku bankowym muszą się zgadzać z Danymi identyfikacyjnymi, które Użytkownik podał we
66Wniosku;
67d. otrzyma pozytywną decyzję kredytową.
68e. jedzenie liści szpinaku chroni między innymi przed miażdżycą i przed rozwojem chorób nowotworowych
69### Response:
70"Szpinak jest bogatym źródłem witamin A, C, E i K, a także minerałów takich jak żelazo, magnez, fosfor, sód, potas, cynk, mangan, chrom, fluoryd, molibden, nikiel, siarka, tlen, azot, wapń, selen, cyna, bor, arsen, glin, bizmut, kobalt, ruten, tellur, tytan, vanadium, wolfram, żelazo, cynk, kadm, kobalt, lantan, neodym, prazeodym, samar, scand, cer, europ, erb, iterb, itr, lawren, lutet, niob, osm, palad, platyna, polon, ren, rod, rubid, tantal, tor, uran, wanad, wolfram, yttrium, cezar, kalcjum, kobalt, krypton, lit, magnez, natrym, ołów, selen, srebro, tal"
71****************************************************************************************************
72 ⁇ Poniżej znajduje się instrukcja opisująca zadanie, połączona z danymi wejściowymi, które zapewniają dalszy kontekst. Napisz odpowiedź, która odpowiednio odpowie na pytanie.
73### Instruction:
74Co to jest siła wyższa? Podaj przykłady siły wyższej.
75### Input:
76Siła wyższa zdarzenie zewnętrzne, które bezpośrednio lub pośrednio doprowadziło do tego, że Bank nie
77wykonał zobowiązań lub wykonał je nienależycie, i któremu Bank nie mógł zapobiec.
78O ile będzie to możliwe, Bank poinformuje na stronie www.ing.pl, że wystąpiła siła wyższa, i określi w miarę
79możliwości, ile będzie trwała.
80Takie zdarzenie to:
81- powódź, trzęsienie ziemi, wyładowania atmosferyczne, huragan, trąby powietrzne, wybuch wulkanu lub
82inne podobne zjawiska atmosferyczne,
83- wyłączenie dostaw prądu przez dostawcę energii elektrycznej, na które Bank nie miał wpływu;
84- awaria systemu łączności telekomunikacyjnej oraz inne
85### Response:
86"Siła wyższa to zdarzenie zewnętrzne, które bezpośrednio lub pośrednio doprowadziło do tego, że bank nie wykonał zobowiązań lub wykonał je nienależycie, a którego bank nie mógł zapobiec. Przykładami są takie zdarzenia jak powodzie, trzęsienia ziemi, burze, tornada, huragany, erupcje wulkanów lub inne podobne zjawiska atmosferyczne. Siłą wyższą może być również wyłączenie zasilania przez dostawców energii elektrycznej, na które bank nie miał wpływu. Innym przykładem może być awaria systemu łączności telekomunikacyjnej."
87
88