update

app.py

@@ -46,14 +46,30 @@ def generate_response(user_input, system_prompt, max_new_tokens=150, temperature
             {"role": "user", "content": user_input}
         ]
     
-    # Tokeniser l'entrée
-    inputs = tokenizer(user_input, return_tensors="pt").to(device)
+    # Utiliser apply_chat_template
+    text = tokenizer.apply_chat_template(
+        messages,
+        tokenize=False,
+        add_generation_prompt=True
+    )
+    
+    # Préparer les entrées du modèle
+    model_inputs = tokenizer([text], return_tensors="pt").to(device)
+    
+    # Générer la réponse
+    generated_ids = model.generate(
+        model_inputs.input_ids, 
+        max_new_tokens=int(max_new_tokens), 
+        temperature=temperature
+    )
     
-    # Générer une réponse
-    outputs = model.generate(inputs.input_ids, max_new_tokens=int(max_new_tokens), temperature=temperature)
+    # Décoder la réponse
+    generated_ids = [
+        output_ids[len(input_ids):] for input_ids, output_ids in zip(model_inputs.input_ids, generated_ids)
+    ]
+    response = tokenizer.batch_decode(generated_ids, skip_special_tokens=True)[0]
     
-    # Décoder la réponse en texte
-    return tokenizer.decode(outputs[0], skip_special_tokens=True)
+    return response
 
 # Fonction pour mettre à jour le message du prompt système en fonction du choix
 def update_system_prompt(selected_prompt):