Views
No views yet
Mini-RWKV-V7-LM-34M。它在保持轻量的同时，具备良好的语言理解和生成能力，非常适合资源极其有限的设备部署和快速迭代开发。| 参数 | 数值 |
|---|---|
| 参数量 | 34.2M 🎯 |
| 层数 | 8 🧱 |
| 隐藏维度 | 512 📐 |
| 上下文长度 | 512->1024->2048 📏 |
| 词表大小 | 6400 📚 |
pip install -r torch numpy prompt_toolkit transformers rwkvpip3 install torch --index-url https://download.pytorch.org/whl/rocm6.3python3 ./API_DEMO_CHAT.py