NLLB-200-distilled-600M fine-tune LoRA FR <-> EWE
Note : une version
v2 bidirectionnelle est disponible et recommandee :
cheriftenga/nllb-200-distilled-600M-ewe-lora-v2.
Elle ameliore fortement le sens EWE -> FR (52,24 chrF++ contre 37,52).
Modele de traduction automatique francais <-> ewe (ewe, langue gbe
parlee au Togo et au Ghana), obtenu par fine-tuning LoRA de
facebook/nllb-200-distilled-600M sur le corpus
cheriftenga/tg-nlp-toolkit-fr-ewe-v0.3.
Projet : toolkit NLP pour langues a faibles ressources du Togo (ewe, kabiyè).
Ce modele est la premiere pierre : un traducteur FR <-> EWE adapte a l'ewe
du Togo (littoral de Lome) et au domaine sante/administration (grilles
thematiques en cours de traduction manuelle).
Resultats
Scores officiels (test de reference verifie, 241 paires)
Scores mesures sur le test de reference verifie a 100 % (241 paires,
double validation par 2 locuteurs natifs independants, 97 % de concordance
entre verificateurs, arbitrage final) :
| Methode | Direction | chrF++ | BLEU |
|---|
| Baseline NLLB zero-shot | FR -> EWE | 37,22 | 11,17 |
| Fine-tuning LoRA | FR -> EWE | 47,39 | 22,20 |
| Baseline NLLB zero-shot | EWE -> FR | 38,14 | 14,92 |
| Fine-tuning LoRA | EWE -> FR | 37,52 | 15,15 |
Gain FR -> EWE : +10,17 chrF++ et +11,03 BLEU par rapport au zero-shot :
le corpus apporte un gain reel, fort et significatif.
EWE -> FR : le modele v1 n'a ete entraine que dans le sens FR -> EWE ;
le sens inverse ne progresse donc pas (leger recul en chrF++, +0,23 BLEU).
Le fine-tuning v2 (bidirectionnel, paires inversees) vise a corriger ce
point faible.
Scores sur le split test auto-aligne (6 564 paires, pour comparaison)
| Methode | Direction | chrF++ | BLEU |
|---|
| Baseline NLLB zero-shot | FR -> EWE | 34,96 | 11,38 |
| Fine-tuning LoRA | FR -> EWE | 41,83 | 18,71 |
| Baseline NLLB zero-shot | EWE -> FR | 33,76 | 13,53 |
| Fine-tuning LoRA | EWE -> FR | 33,35 | 13,69 |
Exemples (FR -> EWE, apres fine-tuning)
| Francais | Reference | Prediction |
|---|
| C'est une drôle de question, non ? | Ðe biabia sia mele vevie ŋutɔ oa? | Ðe biabia sia mewɔ nuku ŋutɔ oa? |
| Les Juifs enterraient leurs morts tout de suite après leur décès, en général dans la journée même. | Yudatɔwo ɖia woƒe ame kukuwo kaba, zi geɖe le ŋkeke si dzi amea ku le. | Yudatɔwo ɖia woƒe ame kukuwo enumake le woƒe ku megbe, zi geɖe le ŋkeke ma ke dzi. |
Utilisation
Le modele publie est l'adaptateur LoRA uniquement : il doit etre charge
sur le modele de base avec peft.
1from transformers import AutoTokenizer, AutoModelForSeq2SeqLM
2from peft import PeftModel
3
4REPO = "cheriftenga/nllb-200-distilled-600M-ewe-lora"
5
6tokenizer = AutoTokenizer.from_pretrained(REPO)
7base = AutoModelForSeq2SeqLM.from_pretrained("facebook/nllb-200-distilled-600M")
8model = PeftModel.from_pretrained(base, REPO)
9model.eval()
10
11def traduire(texte, src="fra_Latn", tgt="ewe_Latn"):
12 tokenizer.src_lang = src
13 enc = tokenizer(texte, return_tensors="pt", truncation=True, max_length=128)
14 gen = model.generate(
15 **enc,
16 forced_bos_token_id=tokenizer.convert_tokens_to_ids(tgt),
17 max_new_tokens=128,
18 num_beams=4,
19 )
20 return tokenizer.batch_decode(gen, skip_special_tokens=True)[0]
21
22print(traduire("Comment vas-tu ?"))
Codes NLLB : fra_Latn (francais), ewe_Latn (ewe).
Donnees d'entrainement
Corpus cheriftenga/tg-nlp-toolkit-fr-ewe-v0.3 (65 640 paires :
train 52 512 / dev 6 564 / test 6 564), assemble depuis :
| Source | Paires | Licence |
|---|
| Bible ewe 1913 + Segond 1910 (alignement verset a verset) | ~16 000 | domaine public |
| OPUS NLLB ee-fr v1 (filtre qualite : ewe-ness, liste noire) | ~49 600 | ODC-By (attribution requise) |
Limitations
- Ewe ancien vs moderne : une partie des donnees vient de la Bible
1913 (orthographe ancienne). Le modele herite de ce melange ; la cible
long terme est l'ewe parle actuel (Lome).
- Direction EWE -> FR : le modele v1 est unidirectionnel (entraine
uniquement FR -> EWE) ; le sens inverse ne progresse pas (leger recul en
chrF++). Le fine-tuning v2 (bidirectionnel) vise a le corriger.
- Defauts connus : redondances occasionnelles, artefacts de tokenisation
(ex. "Wo- kpoe").
- Domaine : principalement religieux/generaliste ; les domaines
sante/administration seront couverts par la traduction manuelle des
grilles thematiques (en cours).
Licence et attribution
- Modele :
cc-by-nc-sa-4.0 — licence heritee du modele de base
NLLB-200 (Meta AI, CC-BY-NC-SA-4.0). Usage non commercial sans
accord distinct.
- Donnees : domaine public (Bible 1913, Segond 1910) + ODC-By
(OPUS/NLLB — attribution : https://opus.nlpl.eu/).
Auteurs
- TENGA Cherif Abdel Azize (Ingenieur IA)
Citation
1@misc{tengue2026ewelora,
2 title={NLLB-200-distilled-600M fine-tune LoRA FR-EWE},
3 author={Tengue, Cherif},
4 year={2026},
5 howpublished={\url{https://huggingface.co/cheriftenga/nllb-200-distilled-600M-ewe-lora}}
6}