Un modèle Gemma-3-270M optimisé et fusionné, spécialement adapté pour le traitement de texte et la génération de contenu.
Ce modèle est une version optimisée de Gemma-3-270M qui a été fusionnée et fine-tunée sur des données d'instruction OIG (Open Instruction Generalist) pour améliorer ses capacités de compréhension et de génération de texte. Le modèle offre un bon équilibre entre performance et efficacité computationnelle.
Comme tous les modèles de langue, ce modèle peut présenter des biais présents dans les données d'entraînement. Les limitations incluent :
1from transformers import AutoTokenizer, AutoModelForCausalLM
2import torch
3
4model_name = "JMK001/gemma-3-270m-oig-transformers-merged"
5tokenizer = AutoTokenizer.from_pretrained(model_name)
6model = AutoModelForCausalLM.from_pretrained(model_name)
7
8# Génération de texte
9input_text = "Explain the concept of machine learning:"
10inputs = tokenizer(input_text, return_tensors="pt")
11outputs = model.generate(**inputs, max_length=200)
12print(tokenizer.decode(outputs[0]))
