Views
No views yet
1from huggingface_hub import InferenceClient
2
3client = InferenceClient(model="ateeqalghamdi/Quran-Qwin-Merged")
4
5messages = [
6 {"role": "system", "content": "أنت مستشار نفسي وشرعي تجيب بلغة مهذبة ومختصرة."},
7 {"role": "user", "content": "أعاني من الحزن المستمر والضيق، ما النصيحة والدعاء المناسب؟"}
8]
9
10chatml = ""
11for m in messages:
12 chatml += f"<|im_start|>{m['role']}\n{m['content']}<|im_end|>\n"
13chatml += "<|im_start|>assistant\n"
14
15resp = client.text_generation(prompt=chatml, max_new_tokens=300)
16print(resp)