Update app.py

app.py

@@ -1,6 +1,7 @@
 import gradio as gr
 from huggingface_hub import InferenceClient
 from datasets import load_dataset
+import time
 
 # Função para carregar o dataset `aicoder69/aicoder69` com tratamento de erros
 def load_aicoder_dataset():
@@ -66,16 +67,27 @@ def respond(
 
     try:
         print("Enviando solicitação ao modelo...")
-        response = client.chat_completion(
-            messages,
-            max_tokens=max_tokens,
-            temperature=temperature,
-            top_p=top_p,
-        ).choices[0].message.content
-        print("Resposta recebida com sucesso!")
-        return response
+        # Ajuste o tempo limite e tente novamente caso haja falha
+        retries = 3
+        for attempt in range(retries):
+            try:
+                response = client.chat_completion(
+                    messages,
+                    max_tokens=max_tokens,
+                    temperature=temperature,
+                    top_p=top_p,
+                ).choices[0].message.content
+                print("Resposta recebida com sucesso!")
+                return response
+            except Exception as e:
+                print(f"Erro na tentativa {attempt + 1}/{retries}: {e}")
+                if attempt < retries - 1:
+                    print("Tentando novamente...")
+                    time.sleep(2)  # Pausa entre tentativas
+                else:
+                    return f"Erro ao gerar resposta após {retries} tentativas."
     except Exception as e:
-        print(f"Erro durante a inferência: {e}")
+        print(f"Erro ao enviar solicitação: {e}")
         return "Ocorreu um erro ao gerar uma resposta."
 
 # Exemplo: Recuperar uma entrada do dataset