Update app.py

app.py

@@ -1,103 +1,5 @@
 from template.examples import examplesChatbot
-# from modules.respond import respond
-from modules.config import client, azure_ml_endpoint_url, headers
-from modules.search import search
-import time
-import requests
-import json
-import gradio as gr
-import os
-
-def respond(
-    message,
-    history: list[tuple[str, str]],
-    model
-):
-    messages = []
-
-    for val in history:
-        if val[0]:
-            messages.append({"role": "user", "content": val[0]})
-        if val[1]:
-            messages.append({"role": "assistant", "content": val[1]})
-
-    messages.append({"role": "user", "content": message})
-
-    response = ""
-
-    highlighted_content = search(message)
-    GROUNDED_PROMPT = f"""
-    Você é um assistente virtual amigável especializado em responder questões sobre a legislação das Resoluções e Portarias da universidade Unesp. O conteúdo dos atos normativos é de responsabilidade do Grupo Técnico de Informação e Documentação da Secretaria Geral (GTID/SG).
-
-    Instruções:
-    1. Responda à pergunta usando **somente** as fontes fornecidas abaixo.
-    2. Seja amigável e conciso em suas respostas.
-    3. Cite a fonte utilizada durante e ao final da resposta.
-    4. Responda **apenas** com os fatos relacionados nas fontes fornecidas.
-    5. Se não houver informações suficientes nas fontes abaixo, informe que não sabe.
-    6. Não gere respostas que não usem as fontes fornecidas.
-    7. Formate o nome do arquivo da fonte para apenas o nome da fonte (exemplo: RESOLUÇÃO_UNESP_Nº_05_DE_07_DE_FEVEREIRO_DE_2024.pdf -> RESOLUÇÃO UNESP Nº05 DE 07 DE FEVEREIRO DE 2024).
-    8. Sempre que possível, cite no início da resposta o artigo, parágrafo, inciso, alíneas e/ou itens que foi retirado a resposta.
-
-    Fontes e Trechos Destacados:
-    {highlighted_content}
-
-    Pergunta:
-    {message}
-
-    Formato de Resposta:
-    1. **Introdução**: Comece com uma saudação amigável e uma breve introdução.
-    2. **Resposta**: Forneça a resposta à pergunta de forma clara e concisa.
-    3. **Citação de Fontes**: Cite a fonte utilizada durante e ao final da resposta.
-    4. **Conclusão**: Termine com uma frase de encerramento amigável.
-
-    Exemplo de Resposta:
-
-    Olá! Obrigado por sua pergunta.
-
-    [resposta]
-
-    Fonte(s): [nome da fonte usada].
-    """
-    print("Modelo = ", model)
-    if model == "gpt-4" or model == "gpt-35-turbo":
-      completion = client.chat.completions.create(
-          model="gpt-35-turbo",
-          messages=[
-              {
-                  "role": "user",
-                  "content": GROUNDED_PROMPT,
-              },
-          ],
-      )
-      token = completion.choices[0].message.content
-    else: #Phi
-      data = {
-        "messages": [
-            {"role": "user", "content": GROUNDED_PROMPT}
-        ],
-        "temperature": 0.8,
-        "top_p": 0.1,
-        "max_tokens": 2048
-       }
-
-      # Converta para JSON
-      payload = json.dumps(data)
-      # Realizar a inferência
-      response_api = requests.post(azure_ml_endpoint_url, headers=headers, data=payload)
-      response_json = response_api.json()
-      content = response_json['choices'][0]['message']['content']
-      token = content.strip()
-
-    response += token
-    # yield response
-
-    # Envia o texto gradualmente (efeito de digitação)
-    displayed_response = ""
-    for char in response:
-        displayed_response += char
-        time.sleep(0.01)  # Intervalo entre os caracteres para o efeito de digitação
-        yield displayed_response
+from modules.respond import respond
 
 
 chatbot = gr.Chatbot(