Views
No views yet
DictaLM 3.0 here.1
2from transformers import pipeline
3
4generator = pipeline('text-generation', model="dicta-il/DictaLM-3.0-1.7B-Instruct")
5
6messages = [
7 {"role": "user", "content": "איזה רוטב אהוב עליך?"},
8 {"role": "assistant", "content": "טוב, אני די מחבב כמה טיפות מיץ לימון סחוט טרי. זה מוסיף בדיוק את הכמות הנכונה של טעם חמצמץ לכל מה שאני מבשל במטבח!"},
9 {"role": "user", "content": "האם יש לך מתכונים למיונז?"}
10]
11
12print(generator(messages)[0]['generated_text'][-1]) # just print the last message
13# {'role': 'assistant', 'content': 'בהחלט! הנה מתכון פשוט למיונז בסיסי:\n\nמרכיבים:\n- 1 ביצה\n- 1 כף חומץ לבן (חומץ תפוחים או חומץ בן יין לבן עובד היטב)\n- 1/4 כוס שמנת כבדה או חלב מרוכז\n- 1/4 כפית מלח\n- 1/4 כפית פלפל שחור גרוס\n- 1 כף שום גבישי, קצוץ דק\n\nהוראות:\n1. בקערה קטנה, טורפים יחד את הביצה, חומץ, שמנת, מלח ופלפל.\n2. מניחים את הבלילה על מגש, מקפלים אותה ליצירת גלילים דקים.\n3. מכסים את המגש בניילון נצמד ומתפיחים במקרר למשך שעה לפחות.\n4. מקמחים קלות את הגלילים, ואז מגלגלים אותם בין שני קצוות של נייר אפייה עד שהצד החלק כלפי מטה.\n5. מחממים את התנור ל-175°C (350'}vllm serve dicta-il/DictaLM-3.0-1.7B-Instruct --enable-auto-tool-choice --tool-call-parser hermes1from openai import OpenAI
2
3client = OpenAI(
4 base_url="http://localhost:8000/v1",
5 api_key="sk-no-key-required"
6)
7
8response = client.chat.completions.create(
9 model="dicta-il/DictaLM-3.0-1.7B-Instruct",
10 messages=[
11 {"role": "user", "content": "Hello, how are you?"}
12 ],
13)
14
15print(response.choices[0].message.content)1@article{Shmidman2025DictaLM3,
2 title={{Dicta-LM 3.0: Advancing The Frontier of Hebrew Sovereign LLMs}},
3 author={Shaltiel Shmidman and Avi Shmidman and Amir DN Cohen and Moshe Koppel},
4 year={2025},
5 publisher={{DICTA / Jerusalem, Israel}},
6 note={https://www.dicta.org.il/publications/DictaLM_3_0___Techincal_Report.pdf}
7}