Views
No views yet
| 数据源 | 数量 | 占比 | 描述 |
|---|---|---|---|
| 华佗百科问答 | 7,960条 | 60.5% | 复旦大学华佗医学百科问答数据集 |
| 医疗推理数据 | 2,924条 | 22.2% | FreedomIntelligence医学O1推理数据 |
| 华佗知识图谱 | 2,269条 | 17.3% | 结构化医学知识问答数据 |
1from unsloth import FastModel
2
3# 加载模型
4model, tokenizer = FastModel.from_pretrained(
5 "ZhangQiao123/MedGemma3N-chinese-qa-v1",
6 dtype=None,
7 load_in_4bit=True
8)
9
10# 生成回答
11messages = [{"role": "user", "content": "什么是高血压?"}]
12inputs = tokenizer.apply_chat_template(messages, tokenize=True, return_tensors="pt")
13
14outputs = model.generate(
15 inputs,
16 max_new_tokens=512,
17 temperature=0.7,
18 do_sample=True
19)
20
21response = tokenizer.decode(outputs[0], skip_special_tokens=True)
22print(response)