在 base 模型 RWKV-x060-World-1B6-v2.1-20240328-ctx4096 的基础上做涩涩小说扩写指令微调后，使用了错误的数据格式微调的模型，所以表现很奇葩，但还是保留下来了。
在 base 模型 RWKV-x060-World-1B6-v2.1-20240328-ctx4096 的基础上做涩涩小说扩写指令微调后，使用自我认知数据继续微调5轮而成（对比了一下5、6、7轮的，综合来说这个泛化表现更有趣些）。
由于上一个试水版本个人觉得有点过拟合（部分能力降低甚至丧失），所以这次 loss 值收敛不多，还在 1.0 以上，结果自我认知清洗不彻底，每次新的会话它都会胡说八道自己给自己上设定，虽然比上一个版本的输出表现更不稳定，但这种不稳定却是有趣得多，已作为我开发的一个AI聊天机器人后端模型之一
由于对 16 亿参数量的逻辑表现不满意，所以我尝试强行微调 30 亿参数量模型，之前都是用 lora 微调，由于主机显卡显存有限，30亿参数量使用 NF4 量化的 PISSA 微调。
在 base 模型 RWKV-x060-World-3B-v2.1-20240417-ctx4096.pth 的基础做 PISSA 微调2轮而成，除了自我认知外，还加入了少量自造的扩写语料以及角色扮演语料。
