titibongbong v2 — CamemBERT-NER 9L distillé
Distilled from titibongbong v1 (11L) → 9 layers | 169 MB FP16 | 5 classes NER.
Modèle de reconnaissance d'entités nommées (NER) optimisé pour les documents médico-sociaux français, avec un accent sur la pseudonymisation (RGPD). Version 9 couches obtenue par distillation avec KL divergence + cross-entropy, sans perte de qualité par rapport au teacher 11 couches.
📊 Résultats (pipeline hybride LaPlume)
Évalué sur 9 rapports médico-sociaux complets annotés manuellement (975 entités) via le pipeline complet : NER → règles regex → gazetteers Aho-Corasick → conflict resolver.
| Métrique | titibongbong v1 (11L) | titibongbong v2 (9L) | Δ |
|---|
| F1 Global | 86.4% | 86.8% | +0.4 pt ✅ |
| F1 Pondéré | 89.6% | 89.8% | +0.2 pt ✅ |
| Précision | 83.2% | 83.2% | — |
| Rappel | 90.0% | 90.8% | +0.8 pt ✅ |
| F1 CRIT | 95.5% | 95.5% | — |
| F1 ELEV | 96.1% | 96.4% | +0.3 pt ✅ |
| F1 MOY | 94.8% | 95.5% | +0.7 pt ✅ |
Métriques excluant la catégorie FAIB (entités à faible risque de réidentification).
🏗️ Architecture
| Propriété | Valeur |
|---|
| Base | CamemBERT (RoBERTa français) |
| Couches | 9 (vs 12 pour Jean-Baptiste originel, 11 pour v1) |
| Paramètres | 88.8M |
| Taille (FP16) | 169 MB (vs 393 MB FP32 v1, 420 MB teacher 12L) |
| Labels | 5 classes : O, I-LOC, I-PER, I-MISC, I-ORG |
| Précision | FP16 (half precision) |
| Tokenization | SentencePiece 32K vocab |
| Max sequence | 512 tokens |
🔬 Méthode de distillation
- Teacher :
jmdanto/titibongbong_camemBERT_NER (11 couches)
- Student : copie du teacher avec retrait des couches 5 et 6
- Loss : 0.5·CrossEntropy + 0.5·KL divergence (T=4), pas de CRF
- Corpus : 1.28M tokens (670 chunks de rapports médico-sociaux + romans Zola/Maupassant pour robustesse)
- Hardware : RunPod A100 80GB, bf16, 8 epochs, batch size 32
- Framework : PyTorch 2.x + HuggingFace Transformers 4.57
🚀 Utilisation
1from transformers import AutoTokenizer, AutoModelForTokenClassification, pipeline
2
3model = AutoModelForTokenClassification.from_pretrained("jmdanto/titibongbong_9L_v2")
4tokenizer = AutoTokenizer.from_pretrained("jmdanto/titibongbong_9L_v2")
5
6ner = pipeline("token-classification", model=model, tokenizer=tokenizer,
7 aggregation_strategy="simple")
8
9# Exemple réel — rapport médico-social
10text = "Madame Sophie BERNARD, née le 12/05/1978, est suivie par le CCAS de Lille."
11results = ner(text)
12
13for ent in results:
14 print(f"{ent['entity_group']:>6}: {ent['word']}")
15
16# PER: Madame Sophie BERNARD
17# ORG: CCAS de Lille
⚡ Performance inférence
Mesuré avec torch.compile (reduce-overhead), texte ~1200 caractères.
| Plateforme | Temps NER (9L FP16) | Gain vs v1 (11L FP32) |
|---|
| Apple M3 Max (16 cœurs) | 0.044s | ×1.0 (vitesse) |
| PC standard (i5, 8 Go, 4 threads) | ~0.09s (estimé) | ×1.2 (vitesse) |
Le gain principal de v2 est la taille mémoire (169 MB FP16 vs 393 MB FP32) et la réduction du nombre de couches (9 vs 11), critique pour le déploiement local sur des machines à RAM limitée (8-16 Go). La vitesse d'inférence CPU est comparable parce que le goulot d'étranglement du pipeline complet n'est pas le NER mais les gazetteers (Aho-Corasick).
🏥 Domaine d'application
Entraîné et évalué sur un corpus varié de documents du secteur social et médico-social français :
- Rapports éducatifs et notes sociales
- Courriers institutionnels (MDPH, CAF, ASE, PJJ)
- Signalisements et informations préoccupantes
- Projets personnalisés et contrats de séjour
- Rapports de gestion budgétaire
- Extraits de romans (Zola, Maupassant) pour robustesse hors-domaine
📁 Versions
| Version | Méthode | Couches | Taille | F1 | HuggingFace |
|---|
| v1 | Fine-tune + pruning | 11L | 393 MB FP32 | 86.4% | titibongbong_camemBERT_NER |
| v2 | Distillation | 9L | 169 MB FP16 | 86.8% | Ce modèle |
⚠️ Limitations
- Entraîné exclusivement sur du français → performances non garanties sur d'autres langues
- Domaine médico-social → peut ne pas généraliser à d'autres domaines (juridique, littéraire général)
- Labels I-* uniquement (pas de distinction B-/I-) comme le teacher Jean-Baptiste
- Classe MISC conservée pour compatibilité mais peu utilisée dans le pipeline cible
- Labels vs taxonomie : ce modèle expose 5 labels NER agrégés (O, PER, LOC, ORG, MISC) pour compatibilité avec l'écosystème CamemBERT. Le pipeline LaPlume complet utilise une taxonomie de 101 catégories — la granularité fine est obtenue par règles regex, gazetteers et post-traitement, pas par le NER seul.
⚖️ Cadre réglementaire et positionnement
Le secteur médico-social produit des documents à haute densité de données personnelles : identités, dates, adresses, numéros de dossier, organisations impliquées, parcours de soins. Leur traitement par des LLM externes expose à des risques de réidentification que le cadre juridique actuel appréhende avec une exigence croissante.
La jurisprudence récente est sans ambiguïté : la qualification juridique des données ne dépend pas de la technique utilisée, mais repose uniquement sur l'appréciation objective du risque effectif de réidentification (Conseil d'État, n°498628, 13 février 2026, confirmant CJUE, OC c/ Commission, 7 mars 2024). La pseudonymisation ne saurait être assimilée à une anonymisation, sauf à démontrer concrètement que la réidentification est, en pratique, irréalisable — et la charge de cette démonstration pèse sur le responsable de traitement.
LaPlume adopte une logique de pseudonymisation dense, conçue précisément pour atteindre ce seuil d'irréalisabilité pratique. La taxonomie 101 catégories ne se limite pas aux identifiants directs (NIR, nom, date de naissance) : elle couvre systématiquement les vecteurs de réidentification indirecte — organisations nommées, établissements, services, dates et heures, codes et références institutionnelles. Même sans identification directe, la possibilité de réidentification indirecte suffit à qualifier les informations de données personnelles de santé : c'est exactement ce risque que la profondeur de la taxonomie vise à neutraliser.
Deux usages cibles, une même exigence :
- Sas LLM : les documents sont pseudonymisés localement avant tout appel à un modèle externe (Anthropic, Gemini…), traités avec des tokens typés, puis dépseudonymisés localement. Aucune donnée nominative ne transite vers l'infrastructure tierce.
- Sas RAG : avant indexation dans une base vectorielle, les documents sont pseudonymisés pour constituer une mémoire vivante des pratiques professionnelles et des organisations — comptes rendus, notes sociales, rapports éducatifs. Cette mémoire peut être interrogée, enrichie et maintenue dans le temps sans exposer les personnes concernées, tout en conservant la richesse sémantique et organisationnelle des documents.
Ce que LaPlume ne prétend pas : la pseudonymisation dense reste une mesure de sécurisation, pas une anonymisation au sens juridique. La responsabilité du traitement demeure entière — LaPlume réduit le risque d'exposition, elle ne le supprime pas.
Une évaluation inter-annotateurs avec deux codeurs indépendants sur 20 rapports (~3 000 entités) est en cours et fera l'objet d'une publication dédiée.
📜 Citation
1@misc{titibongbong_v2_2026,
2 author = {Danto, Patrick},
3 title = {titibongbong v2: CamemBERT-NER 9L distillé pour la pseudonymisation de documents médico-sociaux},
4 year = {2026},
5 publisher = {HuggingFace},
6 url = {https://huggingface.co/jmdanto/titibongbong_9L_v2}
7}
🔗 Projet LaPlume
Ce modèle est un composant du pipeline LaPlume de pseudonymisation RGPD pour le secteur social et médico-social.
