MIRAGE-ECE-V2 est un modèle de langage fusionné développé à l'ECE (École d'Ingénieurs) en utilisant la méthode de fusion Dare-Ties. Ce modèle combine les forces des architectures rombodawg/Rombos-LLM-V2.5-Qwen-32b et Sakalti/ultiima-32B pour offrir des performances optimisées sur des tâches complexes de traitement du langage naturel (NLP).
Caractéristiques
Méthode de fusion : DARE-Ties (Spherical Linear Interpolation).
Modèles sources :
rombodawg/Rombos-LLM-V2.5-Qwen-32b
Sakalti/ultiima-32B
Optimisation : bfloat16 pour des calculs rapides et efficaces.
