Cette version intègre des adaptateurs (PEFT) entraînés sur un corpus médical francophone et anglophone pour améliorer la pertinence des réponses dans le cadre d’un chatbot santé.

Utilisation

python

from transformers import AutoTokenizer, AutoModelForCausalLM
from peft import PeftModel

# Charger le modèle de base
base_model = AutoModelForCausalLM.from_pretrained("mistralai/Mistral-7B-Instruct-v0.1")
tokenizer = AutoTokenizer.from_pretrained("mistralai/Mistral-7B-Instruct-v0.1")

# Charger les adaptateurs fine-tunés
model = PeftModel.from_pretrained(base_model, "abdorh/mistral-finetuned-healthbot")

# Préparer l'entrée
inputs = tokenizer("Quelle est la meilleure façon de gérer le diabète ?", return_tensors="pt")

# Générer la réponse
outputs = model.generate(**inputs, max_length=200)
response = tokenizer.decode(outputs[0], skip_special_tokens=True)

print(response)