You can deploy this model and start earning money today!

aminLo/
merged_model_run-v2-06052025-llama-3B

Name: merged_model_run-v2-06052025-llama-3B
Availability: InStock

safetensors

llama

Views

No views yet

merged_model_run-v2-06052025-llama-3B

This is a fine-tuned Llama 3.2 model for administrative text information extraction.

Model details

Base model: unsloth/Llama-3.2-3B-Instruct
Fine-tuning method: LoRA with r=16
Training data: Administrative texts for information extraction
Purpose: Extract structured information from administrative texts

Usage

python

from transformers import pipeline, AutoTokenizer
from unsloth import FastLanguageModel

# Load model
model, tokenizer = FastLanguageModel.from_pretrained(
    "aminLo/merged_model_run-v2-06052025-llama-3B",
    max_seq_length=2048,
    load_in_4bit=True,
)

# Format prompt
instruction = """
Tu es un assistant chargé d'extraire des informations clés depuis un texte administratif.
Analyse le texte suivant et retourne les informations au format JSON.
"""

input_text = """
[Your administrative text here]
"""

# Create pipeline
pipe = pipeline(
    "text-generation",
    model=model,
    tokenizer=tokenizer,
    max_new_tokens=512,
    temperature=0.1,
)

# Format as chat
messages = [
    {"role": "user", "content": f"
Tu es un assistant chargé d'extraire des informations clés depuis un texte administratif.

Analyse le texte suivant et retourne les informations au format JSON en respectant la structure suivante :
Ensuite, selon le type d’événement (valeur de la clé "Evenement"), tu dois ajouter des champs spécifiques, décrits ci-dessous.

1. Avancement d’échelon
- "Echelon" : numéro de l’échelon obtenu (ex. "7").
2. Mise à temps non complet
- "Durée de l'événement" : ex. "0 ans, 6 mois, 0 semaine, 0 jours"
- "Durée travaillée en pourcentage" : ex. "60%"
- "Durée travaillée (en heure hebdo)" : ex. "08:45"
3. Mise à temps complet
- Facultatif :
  - "Durée travaillée en pourcentage" : "100%"
  - "Durée travaillée (en heure hebdo)" : si précisé dans l'arrêté
4. Temps partiel de droit (création d’entreprise ou autre)
- "Durée de l'événement"
- "Durée travaillée en pourcentage"
- "Durée travaillée (en heure hebdo)"
5. Temps partiel de droit – Renouvellement
- Même champs que ci-dessus
- :danger: Vérifie que le texte parle bien d’un renouvellement
6. Temps partiel sur autorisation – Octroi
- "Durée de l'événement"
- "Durée travaillée en pourcentage"
- "Durée travaillée (en heure hebdo)"
7. Temps partiel sur autorisation – Renouvellement
- Identique à l’octroi
- :danger: Mention explicite du renouvellement obligatoire
8. Temps partiel thérapeutique (octroi ou renouvellement)
- "Durée de l'événement"
- "Durée travaillée en pourcentage"
- "Durée travaillée (en heure hebdo)"
- :danger: Si c’est un renouvellement, préciser "renouvellement" dans la clé "Evenement"
9. Temps partiel thérapeutique – Fin
- Aucun champ supplémentaire obligatoire
- Tu peux ajouter :
  - "Fin du dispositif": true
10. Passage à temps plein
- Facultatif :
  - "Durée travaillée en pourcentage": "100%"
11. Modification d’un temps partiel ou non complet
- "Durée de l'événement"
- "Durée travaillée en pourcentage"
- "Durée travaillée (en heure hebdo)"
- :danger: Il faut extraire les nouvelles valeurs modifiées
─────────────────────────────────────────────
:trombone: Règles générales d’extraction
─────────────────────────────────────────────
- Ne jamais inventer d’informations. Si une donnée est absente, ne pas inclure la clé dans le JSON.
- Respecter strictement les formats :
  - Pourcentage : "50%", "100%"
  - Horaire hebdomadaire : "08:45", "17:30"
  - Date : format ISO "YYYY-MM-DD"
  - Durée : "X ans, Y mois, Z semaines, N jours


1. Si l'événement est un **avancement d'échelon** :
{
    "Agent": "NOM PRÉNOM",
    "Etablissement": "Ville ou organisme concerné",
    "Evenement": "avancement d'échelon",
    "Echelon": "Numéro d'échelon",
    "Date": "AAAA-MM-JJ"
}

2. Si l'événement est un **passage à temps partiel** (y compris thérapeutique ou sous autorisation) :
{
    "Agent": "NOM PRÉNOM",
    "Etablissement": "Ville ou organisme concerné",
    "Evenement": "passage à temps partiel",
    "TempsHebdomadaire": "Nombre d'heures/semaine",
    "Pourcentage": "XX%",
    "Durée": "Durée si précisée",
    "Date": "AAAA-MM-JJ"
}

3. Pour les autres événements (nomination, fin de contrat, etc.) :
{
    "Agent": "NOM PRÉNOM",
    "Etablissement": "Ville ou organisme concerné",
    "Evenement": "type d'événement",
    "Date": "AAAA-MM-JJ",
    "Durée": "si précisée"
}

**Contraintes :**
- N'inclus que les champs pertinents pour chaque événement.
- Utilise le format ISO (AAAA-MM-JJ) pour les dates.
- Si une information est manquante ou non précisée, ne pas inclure le champ.
- Retourne uniquement un JSON valide.

Voici une liste des types d'actes possibles à utiliser si cela aide : {event_types}

Texte à analyser :
\n\n'input_text'"}
]
prompt = tokenizer.apply_chat_template(messages, tokenize=False, add_generation_prompt=True)

# Generate response
output = pipe(prompt, return_full_text=False)
generated_text = outputs[0]['generated_text']
print(generated_text)