Views
No views yet
openai/gpt-oss-20b(21B 總參 / 3.6B 活躍 / MoE / MXFP4 / harmony 推理格式)為基底 的繁體中文(台灣) reasoning 模型。在程式能力底層之上,用 TAIDE 蒸餾的台灣繁中 self-instruct 指令資料做 LoRA 微調,直接以道地台灣繁中作答。Code-xCloud 為底再學繁中,保留 reasoning 與 coding 能力。| 指標 | 成績 |
|---|---|
| 台灣知識常識 MCQ | 86.4%(22 題答對 19) |
| 作答誠實度 probe(不確定時不硬掰、自報不知) | 60%(5 題對 3) |
| 綜合分 | 0.73 |
1from transformers import AutoModelForCausalLM, AutoTokenizer
2tok = AutoTokenizer.from_pretrained("xCloudinfo/gpt-oss-20b-TAIDE-zhTW")
3model = AutoModelForCausalLM.from_pretrained("xCloudinfo/gpt-oss-20b-TAIDE-zhTW", dtype="auto", device_map="auto")
4msgs = [{"role": "user", "content": "用一段話介紹台灣,並說說台灣最有名的小吃。"}]
5ids = tok.apply_chat_template(msgs, add_generation_prompt=True, return_tensors="pt").to(model.device)
6print(tok.decode(model.generate(ids, max_new_tokens=512)[0][ids.shape[1]:], skip_special_tokens=False))reasoning 模型:請給足max_new_tokens。GGUF 版見gpt-oss-20b-TAIDE-zhTW-GGUF。
openai/gpt-oss-20b,Apache-2.0。