Update app.py

app.py

@@ -40,9 +40,20 @@ def extract_text(file):
     
 def summarise(text):
 
-    pred = pipe(text ,  min_length)
+     prompt = f"""<s>[INST]
+            Les informations contextuelles sont ci-dessous.
+            ---------------------
+            {text}
+            ---------------------
+           [/INST]
+            Compte tenu des informations contextuelles et non des connaissances préalables, répondez à la requête.  </s>
+            [INST] Requête: résume le texte[/INST]
+            Réponse: 
+                """
+
+    outputs = model.generate(prompt=prompt, temp=0.5, top_k = 40, top_p = 1, max_tokens = max_new_tokens)
     
-    return pred[0]["summary_text"]
+    return outputs
 
 with gr.Blocks() as demo:
     file_input = gr.File(label="Upload a PDF file")