simplified chat engine

backend.py

@@ -154,98 +154,23 @@ def handle_query(query_str: str,
         )"""
         
         
-        DEFAULT_TEXT_QA_PROMPT_TMPL = (
-            "Context information is below. \n"
-            "---------------------\n"
-            "{context_str}"
-            "\n---------------------\n"
-            "Given the context information answer the following question "
-            "(if you don't know the answer, admit it, and use the best of your knowledge): {query_str}\n"
-        )
-        TEXT_QA_TEMPLATE = PromptTemplate(DEFAULT_TEXT_QA_PROMPT_TMPL)
-        
-        
-        DEFAULT_REFINE_PROMPT_TMPL = (
-          "La domanda originale è la seguente: {query_str}\n"
-          "Abbiamo fornito una risposta esistente: {existing_answer}\n"
-          "Abbiamo l'opportunità di affinare la risposta esistente "
-          "(solo se necessario) con un po' più di contesto qui sotto.\n"
-          "------------\n"
-          "{context_msg}\n"
-          "------------\n"
-          "Dato il nuovo contesto e utilizzando al meglio le tue conoscenze, migliora la risposta esistente. "
-          "Se non puoi migliorare la risposta esistente, ripetila semplicemente."
-      )
-        DEFAULT_REFINE_PROMPT = PromptTemplate(DEFAULT_REFINE_PROMPT_TMPL)
-        
-        CHAT_REFINE_PROMPT_TMPL_MSGS = [
-            ChatMessage(content="{query_str}", role=MessageRole.USER),
-            ChatMessage(content="{existing_answer}", role=MessageRole.ASSISTANT),
-            ChatMessage(
-                content="We have the opportunity to refine the above answer "
-                "(only if needed) with some more context below.\n"
-                "------------\n"
-                "{context_msg}\n"
-                "------------\n"
-                "Given the new context and using the best of your knowledge, improve the existing answer. "
-                "If you can't improve the existing answer, just repeat it again.",
-                role=MessageRole.USER,
-            ),
-        ]
-
-        CHAT_REFINE_PROMPT = ChatPromptTemplate(CHAT_REFINE_PROMPT_TMPL_MSGS)
-        
-        
-        
-        query_engine = index.as_query_engine(
-        streaming=True,
-        #memory=memory,
-        similarity_top_k=4, 
-        response_mode= "tree_summarize", 
-        #text_qa_template=TEXT_QA_TEMPLATE, 
-        #refine_template=CHAT_REFINE_PROMPT
-        )
-        
+        chat_engine = index.as_chat_engine(
+        chat_mode="context",
+        memory=memory,
+        system_prompt=(
+            "Sei un assistente Q&A italiano di nome Odi, che risponde solo alle domande o richieste pertinenti in modo preciso."
+            " Usa la cronologia della chat, o il contesto fornito, per interagire e aiutare l'utente a rispondere alla sua domanda."
+        ),
+    )
         
-        new_summary_tmpl_str = """Text:
-        "Sei un assistente Q&A italiano di nome Odi, che risponde solo alle domande o richieste pertinenti in modo preciso."
-        " Quando un utente ti chiede informazioni su di te o sul tuo creatore puoi dire che sei un assistente ricercatore creato dagli Osservatori Digitali e fornire gli argomenti di cui sei esperto."
-        " Ecco i documenti rilevanti per il contesto:\n"
-        "{context_str}\n" 
-        "\n Usa la cronologia della chat, o il contesto sopra, per interagire e aiutare l'utente a rispondere alla sua domanda." """
-
-        query_engine.update_prompts(
-            {"response_synthesizer:summary_template": PromptTemplate(new_summary_tmpl_str)}
-        )
-
         #prompts_dict = chat_engine.get_prompts()
         #display_prompt_dict(prompts_dict)
-        
-        """if query_str == "testing":
-          
-          new_summary_tmpl_str = (
-          "Context information is below.\n"
-          "---------------------\n"
-          "{context_str}\n"
-          "---------------------\n"
-          "Given the context information and not prior knowledge, "
-          "answer the query in the style of a Shakespeare play.\n"
-          #"Query: {query_str}\n"
-          #"Answer: "
-          )
-          new_summary_tmpl = PromptTemplate(new_summary_tmpl_str)
-          
-          chat_engine.update_prompts(
-              {"response_synthesizer:summary_template": new_summary_tmpl}
-          )
-          prompts_dict = chat_engine.get_prompts()
-          display_prompt_dict("prompts_dict", prompts_dict)"""
 
         
         #chat_engine.reset()
         outputs = []
-        response = query_engine.query(query_str) 
-        #response = chat_engine.stream_chat(query_str, chat_history=conversation)
+        #response = query_engine.query(query_str) 
+        response = chat_engine.stream_chat(query_str, chat_history=conversation)
 
         sources = []  # Use a list to collect multiple sources if present
         #response = chat_engine.chat(query_str)