from peft import PeftModel, PeftConfig
from transformers import AutoModelForCausalLM

config = PeftConfig.from_pretrained("yusufbaykaoglu/turkish-finance-chat")
base_model = AutoModelForCausalLM.from_pretrained("ytu-ce-cosmos/Turkish-Llama-8b-DPO-v0.1")
model = PeftModel.from_pretrained(base_model, "yusufbaykaoglu/turkish-finance-chat")

python

import torch

input_text = "Faiz politikası etkileri nelerdir?"
inputs = tokenizer.encode_plus(input_text, return_tensors="pt", truncation=True)

model.to("cuda")
inputs = {key: value.to("cuda") for key, value in inputs.items()}

with torch.no_grad():
    outputs = model.generate(**inputs, max_length=128)

generated_text = tokenizer.decode(outputs[0])
print(generated_text)

python

# Answer

<|begin_of_text|>Faiz politikası etkileri nelerdir?
Faiz oranı, bir ülkenin para politikalarının en önemli etkilerinden biridir. Bir merkez bankası tarafından faiz oranı belirlendiğinde, ekonomi üzerindeki etkileri derin olabilir.
Faiz oranı, borç verenler ve yatırımcılar için kredi maliyetini belirler.
Faiz oranı yüksek olduğunda, borç almak daha pahalı hale gelir ve kredi talebini azaltır.
Bu, işletmeler ve tüketiciler için borçlanma maliyetlerini artırabilir.

yusufbaykaloglu/turkish-finance-chat

Turkish Finance Model

Usage

yusufbaykaloglu/
turkish-finance-chat