Views
No views yet
llama-13B-belle-zh-lora evaluate test data:| input_text | predict |
|---|---|
| 用一句话描述地球为什么是独一无二的\n答: | 地球是独一无二的,因为它是我们的家园,它是我们的生命的基础,它是我们的星球。 |
pip install -U textgen1from textgen import LlamaModel
2model = LlamaModel("llama", "decapoda-research/llama-13b-hf", lora_name="shibing624/llama-13b-belle-zh-lora")
3r = model.predict(["用一句话描述地球为什么是独一无二的\n答:"])
4print(r) # ['地球是独一无二的,因为它是我们的家园,它是我们的生命的基础,它是我们的星球。']llama-13b-belle-zh-lora
├── adapter_config.json
└── adapter_model.bin1@software{textgen,
2 author = {Xu Ming},
3 title = {textgen: Implementation of language model finetune},
4 year = {2021},
5 url = {https://github.com/shibing624/textgen},
6}