ESPRIT-Derja-8B-v1 est un modèle de langage spécialisé dans le dialecte tunisien (Derja), développé par la Direction de l'IA d'ESPRIT (École Supérieure Privée d'Ingénierie et de Technologies, Tunisie).

Le modèle est issu d'un fine-tuning LoRA de Qwen/Qwen3-8B, entraîné sur un corpus de dialecte tunisien afin d'améliorer la compréhension et la génération en Derja, qu'il soit écrit en caractères arabes ou en arabizi (latin).

Détails du modèle

Développé par : Direction de l'IA - ESPRIT
Modèle de base : Qwen/Qwen3-8B (8 milliards de paramètres)
Méthode : Fine-tuning LoRA (Low-Rank Adaptation)
Langues : Arabe standard, dialecte tunisien (Derja), arabizi
Licence : Apache 2.0
Infrastructure d'entraînement : NVIDIA DGX A100

Cas d'usage

Ce modèle est conçu pour :

La génération de texte en dialecte tunisien
La compréhension et la réponse à des requêtes en Derja
Les assistants conversationnels destinés au public tunisien
La recherche en TAL sur les langues sous-dotées (low-resource NLP)

Utilisation

python

from transformers import AutoModelForCausalLM, AutoTokenizer

model_name = "ESPRIT-Group/ESPRIT-Derja-8B-v1"
tokenizer = AutoTokenizer.from_pretrained(model_name)
model = AutoModelForCausalLM.from_pretrained(model_name, device_map="auto")

messages = [
    {"role": "user", "content": "أهلا، شنوة الأخبار اليوم؟"}
]
text = tokenizer.apply_chat_template(messages, tokenize=False, add_generation_prompt=True)
inputs = tokenizer(text, return_tensors="pt").to(model.device)
outputs = model.generate(**inputs, max_new_tokens=256)
print(tokenizer.decode(outputs[0], skip_special_tokens=True))

Déploiement

Le modèle est déployable via vLLM pour une inférence à haut débit :

bash

vllm serve ESPRIT-Group/ESPRIT-Derja-8B-v1 \
  --served-model-name ESPRIT-Derja-8B \
  --max-model-len 8192

Données d'entraînement

Le modèle a été affiné sur un corpus de dialecte tunisien comprenant des sources textuelles variées (conversations, contenus écrits en Derja arabe et arabizi). Le détail du corpus sera précisé dans une version ultérieure de cette fiche.

Limites et biais

Le modèle peut produire des réponses inexactes ou inappropriées, comme tout modèle de langage.
La couverture du dialecte peut varier selon les régions de Tunisie.
Le modèle hérite des biais potentiels de son modèle de base (Qwen3-8B) et de son corpus de fine-tuning.
Il n'est pas conçu pour des usages critiques sans supervision humaine.

Citation

bibtex

@misc{esprit-derja-8b-2026,
  title  = {ESPRIT-Derja-8B-v1: A Tunisian Dialect Language Model},
  author = {Direction de l'IA, ESPRIT},
  year   = {2026},
  publisher = {HuggingFace},
  howpublished = {\url{https://huggingface.co/ESPRIT-Group/ESPRIT-Derja-8B-v1}}
}

Contact

Direction de l'Intelligence Artificielle - ESPRIT École Supérieure Privée d'Ingénierie et de Technologies, Tunisie