update

app.py

@@ -1,6 +1,7 @@
 from transformers import AutoModelForCausalLM, AutoTokenizer
 import gradio as gr
 import torch
+import spaces
 
 # Vérifier si CUDA est disponible et configurer le périphérique
 device = torch.device("cuda" if torch.cuda.is_available() else "cpu")
@@ -12,6 +13,7 @@ tokenizer = AutoTokenizer.from_pretrained(model_name)
 model = AutoModelForCausalLM.from_pretrained(model_name).to(device)
 
 # Fonction pour générer une réponse
+@spaces.GPU(duration=120)
 def generate_response(user_input, max_new_tokens=150, temperature=0.7):
     # Préparer l'entrée pour le modèle
     inputs = tokenizer(user_input, return_tensors="pt").to(device)