You can deploy this model and start earning money today!

DFveloper/
AIKAR-1.2-Pro-GGUF

Name: AIKAR-1.2-Pro-GGUF
Availability: InStock

Views

No views yet

[AIKAR 1.2 Pro - GGUF] 📦

Model License

Format

Developer

AIKAR 1.2 Pro - GGUF는 고성능 LLM인 AIKAR 1.2 Pro를 일반 사용자 환경에서도 효율적으로 구동할 수 있도록 llama.cpp 포맷으로 양자화(Quantization)한 버전입니다.

이 리포지토리는 고사양 GPU가 없는 환경에서도 모델의 지능을 최대한 유지하면서, 메모리(RAM/VRAM) 사용량을 최적화하여 로컬 추론(Local Inference)이 가능하도록 설계되었습니다.

가장 직접적인 방법으로, 터미널에서 다음과 같이 실행할 수 있습니다.

bash

# 빌드된 llama.cpp 경로에서 실행
./main -m AIKAR-1.2-Pro-G2Q3.gguf -p "Tell me a long story" -n 128 -t 8

AMD GPU에 최적화된 엔진으로, llama.cpp 기반입니다. LOOP Chat의 실사용 서빙 엔진입니다.

bash

# 빌드된 aikar-engine 경로에서 실행
./main -m AIKAR-1.2-Pro-G2Q3.gguf -p "Tell me a long story" -n 128 -t 8

GGUF 양자화& 실행 과정에서 발생하는 성능 저하나 버그는 LOOP GitHub의 Issue 탭에 제보해 주세요. 사용자의 피드백은 더 정교한 양자화 가중치를 만드는 데 큰 도움이 됩니다.

"Bring the power of AIKAR 1.2 Pro to your local machine." — Optimized by LOOP