Views
No views yet
1. 克隆Nano仓库,并按照文档的说明安装依赖。
cd ~
git clone https://github.com/bd4sur/Nano
cd Nano
2. 将检查点文件下载到`~/Nano/checkpoint`目录下。
3. 使用PyTorch推理。
python infer.py -m ~/Nano/checkpoint/nano_56m_20241027_pt_99000.pt
4. 或者在浏览器上推理。
python export model.bin --checkpoint ~/Nano/checkpoint/nano_56m_20241027_pt_99000.pt
在浏览器上打开 ~/Nano/infer/index.html 页面,打开刚刚生成的 model.bin 文件。
5. 指令微调或者继续预训练。详见Nano仓库中的文档。
