Views
No views yet

"大家好,我是练习时长两年半的个人练习生 ikun-2.5B,喜欢唱、跳、rap、篮球!"
| 属性 | 值 |
|---|---|
| 基座模型 | MiniMind2-Small (LlamaForCausalLM 兼容) |
| 实际参数量 | 25.83M (0.026B) |
| 名字含义 | 2.5B = 练习时长两年半 🐔🏀 |
| 微调方式 | LoRA (rank=8) → 合并到基座 |
| 训练数据 | 214 条 ikun 梗文化 SFT 对话 |
| 词表大小 | 6400 (BPE) |
| 最大长度 | 32768 tokens |
| 精度 | float16 |
pip install transformers torch1from transformers import AutoTokenizer, AutoModelForCausalLM
2
3# 加载模型和分词器
4model = AutoModelForCausalLM.from_pretrained(
5 "IKUN-LLM/ikun-2.5B",
6 trust_remote_code=True
7)
8tokenizer = AutoTokenizer.from_pretrained("IKUN-LLM/ikun-2.5B")
9
10# 准备对话
11messages = [{"role": "user", "content": "你是谁?"}]
12
13# 生成回复
14inputs = tokenizer.apply_chat_template(
15 messages,
16 tokenize=True,
17 add_generation_prompt=True,
18 return_tensors="pt"
19)
20
21outputs = model.generate(
22 inputs,
23 max_new_tokens=200,
24 do_sample=True,
25 temperature=0.85,
26 top_p=0.85
27)
28
29response = tokenizer.decode(outputs[0], skip_special_tokens=True)
30print(response)