Views
No views yet
openai/gpt-oss-20b(21B 總參 / 3.6B 活躍 / MoE / MXFP4 / harmony 推理格式)為基底 的程式碼能力強化 reasoning 模型。以執行驗證蒸餾的程式碼指令資料做 LoRA 微調(LoRA 作用於 attention,MoE 專家維持原生 MXFP4),保留 gpt-oss 原生 reasoning 能力。TAIDE-zhTW(繁中) 與 Uncensored(無審查) 兩顆都疊在這顆之上。定位是「可控、可驗證、自架的實用 coder」,不是去刷贏前沿封閉模型;價值在資料每筆可執行、行為可控、貼合自家技術堆疊。
1from transformers import AutoModelForCausalLM, AutoTokenizer
2tok = AutoTokenizer.from_pretrained("xCloudinfo/gpt-oss-20b-Code-xCloud")
3model = AutoModelForCausalLM.from_pretrained("xCloudinfo/gpt-oss-20b-Code-xCloud", dtype="auto", device_map="auto")
4msgs = [{"role": "user", "content": "用 Python 寫一個 LRU cache,附簡短說明。"}]
5ids = tok.apply_chat_template(msgs, add_generation_prompt=True, return_tensors="pt").to(model.device)
6print(tok.decode(model.generate(ids, max_new_tokens=512)[0][ids.shape[1]:], skip_special_tokens=False))reasoning 模型:請給足max_new_tokens。GGUF 版見gpt-oss-20b-Code-xCloud-GGUF。
openai/gpt-oss-20b,Apache-2.0。