Update app.py

app.py

@@ -66,9 +66,9 @@ stopping_criteria = ListOfTokensStoppingCriteria(tokenizer, stop_tokens)
 # Añade tu criterio de parada a una StoppingCriteriaList
 stopping_criteria_list = StoppingCriteriaList([stopping_criteria])
 
-def generate_text(prompt, max_length=2100):
+def generate_text(prompt, context, max_length=2100):
   prompt=prompt.replace("\n", "").replace("¿","").replace("?","")
-  input_text = f'''<bos><start_of_turn>system You are a helpful AI assistant.Eres un experto cocinero de la cocina hispanoamericana.<end_of_turn><start_of_turn>user ¿{prompt}?<end_of_turn><start_of_turn>model'''
+  input_text = f'''<bos><start_of_turn>system ¿{context}?<end_of_turn><start_of_turn>user ¿{prompt}?<end_of_turn><start_of_turn>model'''
   inputs = tokenizer.encode(input_text, return_tensors="pt", add_special_tokens=False).to("cuda:0")
   max_new_tokens=max_length
   generation_config = GenerationConfig(
@@ -82,15 +82,15 @@ def generate_text(prompt, max_length=2100):
   outputs = model.generate(generation_config=generation_config, input_ids=inputs, stopping_criteria=stopping_criteria_list,)
   return tokenizer.decode(outputs[0], skip_special_tokens=False) #True
 
-def mostrar_respuesta(pregunta):
+def mostrar_respuesta(pregunta, contexto):
     try:
-      res= generate_text(pregunta, max_length=500)
+      res= generate_text(pregunta, contexto, max_length=500)
       return str(res)
     except Exception as e:
       return str(e)
 
 # Ejemplos de preguntas
-ejemplos = [
+mis_ejemplos = [
     ["¿Dime la receta de la tortilla de patatatas?"],
     ["¿Dime la receta del ceviche?"],
     ["¿Como se cocinan unos autenticos frijoles?"],
@@ -99,10 +99,11 @@ ejemplos = [
 iface = gr.Interface(
     fn=mostrar_respuesta,
     inputs=gr.Textbox(label="Pregunta"),
+    context=gr.Textbox(label="Contexto", value="You are a helpful AI assistant. Eres un experto cocinero hispanoamericano."),
     outputs=[gr.Textbox(label="Respuesta", lines=2),],
     title="Recetas de la Abuel@",
     description="Introduce tu pregunta sobre recetas de cocina.",
-    examples=ejemplos,
+    ejemplos=mis_ejemplos,
 )
 
 iface.queue(max_size=14).launch() # share=True,debug=True