You can deploy this model and start earning money today!

Brunobkr/
OFFFELLIA_Huihui-CyberStrike-OffSec-35B-abliterated

Name: OFFFELLIA_Huihui-CyberStrike-OffSec-35B-abliterated
Rating: 2.5 (725 reviews)

Views

No views yet

ΩFFΣLLIα — llama.cpp Helicoidal Quantization

Fork de alta performance do llama.cpp ZETAHELICOIDAL ( quants.py )

📌 Visão Geral

O ΩFFΣLLIα é um fork otimizado do ecossistema llama.cpp / GGML, projetado para integrar avanços da Teoria Aritmético-Harmônica de Becker ao pipeline de inferência de Modelos de Linguagem de Grande Porte (LLMs).

🚀 Como Compilar e Usar

1. Compilar o `llama.cpp` Otimizado

bash

cd llama.cpp
mkdir -p build && cd build
cmake .. -DLLAMA_BUILD_EXAMPLES=ON
cmake --build . --config Release -j$(nproc)

2. Converter Modelo Hugging Face para GGUF `Q4_2_H`

bash

python3 llama.cpp/convert_hf_to_gguf.py path/to/hf-model \
  --outtype q4_2_h \
  --outfile models/modelo-q4_2_h.gguf

3. Quantizar Modelo F16/F32 Existente

./llama.cpp/build/bin/llama-quantize ./models/modelo-f16.gguf ./models/modelo-q4_2_h.gguf Q4_2_H

4. Executar Inferência via CLI

./llama.cpp/build/bin/llama-cli -m ./models/modelo-q4_2_h.gguf -p "ΩFFΣLLIα: Explique a Teoria Helicoidal" -n 256

5. Executar a Aplicação Web & Dashboard

bash

npm run build
npm start

Desenvolvido para alta eficiência em execução local e integração com o ecossistema Hugging Face.

Brunobkr/OFFFELLIA_Huihui-CyberStrike-OffSec-35B-abliterated

ΩFFΣLLIα — llama.cpp Helicoidal Quantization

📌 Visão Geral

🚀 Como Compilar e Usar

1. Compilar o llama.cpp Otimizado

2. Converter Modelo Hugging Face para GGUF Q4_2_H

3. Quantizar Modelo F16/F32 Existente

4. Executar Inferência via CLI

5. Executar a Aplicação Web & Dashboard

Brunobkr/
OFFFELLIA_Huihui-CyberStrike-OffSec-35B-abliterated

1. Compilar o `llama.cpp` Otimizado

2. Converter Modelo Hugging Face para GGUF `Q4_2_H`