🧠 News-Intelligence Chatbot — GGUF 버전
이 모델은 Unsloth를 활용하여
Colab 환경에서 직접 파인튜닝(finetuning) 후
GGUF 포맷으로 변환된 도메인 특화 LLM입니다.
뉴스·정책·시사 분석에 최적화된 Alpaca Prompt 기반 Instruction LLM으로,
전문적인 정보를 깊이 있게 이해하고 답변하도록 튜닝되었습니다.
🔗 GitHub Repository
👉
여기를 클릭하면 전체 프로젝트로 이동합니다
(모델 파일 / 학습 코드 / Colab 노트북 포함)📚 Dataset Link
Example usage:
- For text only LLMs: llama-cli --hf repo_id/model_name -p "why is the sky blue?"
- For multimodal models: llama-mtmd-cli -m model_name.gguf --mmproj mmproj_file.gguf
Available Model files:
meta-llama-3.1-8b.Q5_K_M.ggufmeta-llama-3.1-8b.Q8_0.ggufmeta-llama-3.1-8b.Q4_K_M.gguf
