Quantum 1.6 Pilot ist ein experimentelles deutsches Base-Modell aus dem Lumen-Projekt.
Modell
Architektur: LlamaForCausalLM
Parameter: 49.295.872
Kontextlänge: 512 Tokens
Sprache: überwiegend Deutsch
Format: GGUF
Quantisierung: F16
Inferenz: llama.cpp-kompatibel
Status: Experimental Base Model
Training
Quantum 1.6 Pilot wurde als Continued-Pretraining aus Quantum 1 Base erzeugt.
Ausgangsmodell: Quantum 1 Base
Bestehendes Training: etwa 100 Mio. Tokens
Zusätzliches Training: 500 Mio. neue deutsche Tokens
Gesamtumfang: etwa 600 Mio. Tokens
Tokenizer: eingefrorener quantum-1 Tokenizer
Kein vortrainiertes Fremdmodell als Ausgangsgewicht verwendet
Evaluation
Validation Loss: 3.348852
Perplexity: 28.4700
Validation Tokens: rund 1.996.093
Wichtiger Hinweis
Dies ist weiterhin ein Base-Completion-Modell, kein Chat- oder Instruction-Modell.
Es kann Text fortsetzen, ist aber nicht zuverlässig für Faktenfragen, Gespräche, Anweisungen oder sicherheitskritische Inhalte. Antworten können falsch, unvollständig oder zusammenhanglos sein.
