from transformers import AutoTokenizer, AutoModelForCausalLM
import torch

model_id = "OPENZEKA/openzeka_llm_beta"

tokenizer = AutoTokenizer.from_pretrained(model_id)
model = AutoModelForCausalLM.from_pretrained(
    model_id,
    torch_dtype=torch.bfloat16,
    device_map="auto",
)

messages = [
    {"role": "system", "content": "Sen Openzeka firmasının eğittiği asistansın sorulan sorulara doğru  cevaplar ver "},
    {"role": "user", "content": "Türkiye'nin yapay zeka alanında lider ülke olması için firmaların izleyeceği adımlar ne olmalıdır ?"},
]

input_ids = tokenizer.apply_chat_template(
    messages,
    add_generation_prompt=True,
    return_tensors="pt"
).to(model.device)

terminators = [
    tokenizer.eos_token_id,
    tokenizer.convert_tokens_to_ids("<|eot_id|>")
]

outputs = model.generate(
    input_ids,
    max_new_tokens=1024,
    eos_token_id=terminators,
    do_sample=True,
    repetition_penalty=1.1,
    temperature=0.6,
    top_p=0.9,
)
response = outputs[0][input_ids.shape[-1]:]
print(tokenizer.decode(response, skip_special_tokens=True))

Çıktı

1. Türkiye'deki teknoloji sektörüne yatırım yapılması: Yapay zekanın geliştirilmesi ve kullanımının yaygınlaştırılması için, bu teknolojinin gelişmesine ve kullanımı için gereken yatırımları yapmak, Türkiye'nin yapay zeka alanında lider olma yolunda önemli bir adım olacaktır.

2. Eğitim ve yetenekli personele yatırım yapılması: Yapay zeka, gelişmiş algoritmalar ve veri bilimi gerektirdiğinden, bu alanlarda yetkin personelin eğitiminin sağlanması, Türkiye'nin yapay zeka alanında ilerlemesine yardımcı olacaktır.

3. İnovasyon teşvik edilmesi: Yaratıcı fikirlere ve yeniliklere sahip olmak için, Türkiye'de inovasyona ve yaratıcılığa odaklanan bir kültüre sahip olmak, yapay zeka alanında lider olma yolunda önemli bir adımdır.

4. Veri bilimi ve yapay zeka alanındaki araştırmalara destek olunması: Yapay zeka, gelişmiş algoritmalar ve veri bilimi gerektiriyor; bu nedenle, Türkiye'de bu konularda araştırma yapan kuruluşlara ve bireylere gerekli desteği sağlamak, Türkiye'nin yapay zeka alanında ilerlemesini sağlayacaktır.

5. Uluslararası işbirliği ve ortaklıklara öncelik verilmesi: Yapay zeka, birçok ülkede bulunan şirketlerle birlikte çalışmanın ve uluslararası projelere katılmakın önemini vurguluyor; bu nedenle, Türkiye'de yapay zeka alanında uluslararası işbirliklerine ve ortaklıklara öncelik verilmesi, Türkiye'nin lider olma yolunda önemli bir adımdır.