DHEIVER commited on
Commit
02acc93
·
verified ·
1 Parent(s): 4ca06f3

Update app.py

Browse files
Files changed (1) hide show
  1. app.py +10 -11
app.py CHANGED
@@ -158,11 +158,11 @@ class PromptManager:
158
  return prompts.get(doc_type, "Tipo de documento não suportado")
159
 
160
  class DocumentGenerator:
161
- """Gerencia a geração de documentos usando modelo BERT público"""
162
 
163
  def __init__(self):
164
- # Usando modelo BERT público e estável
165
- self.client = Client("microsoft/phi-1_5") # Modelo mais leve e estável
166
  self.prompt_manager = PromptManager()
167
  self.max_retries = 3
168
 
@@ -172,14 +172,13 @@ class DocumentGenerator:
172
  try:
173
  prompt = self.prompt_manager.get_base_prompt(doc_type, context)
174
 
175
- # Configuração específica para o modelo
176
  result = self.client.predict(
177
- prompt, # texto principal
178
- max_length=2048, # tamanho máximo
179
- temperature=0.7, # criatividade moderada
180
- top_p=0.95, # coerência
181
- do_sample=True, # amostragem
182
- api_name="/run" # endpoint padrão
183
  )
184
 
185
  return self._format_output(result)
@@ -196,7 +195,7 @@ class DocumentGenerator:
196
  elif "timeout" in error_msg.lower():
197
  return "O servidor está demorando para responder. Por favor, tente novamente."
198
  else:
199
- return f"Não foi possível gerar o documento. Por favor, verifique os dados e tente novamente."
200
 
201
  def _format_output(self, text: str) -> str:
202
  """Formata o texto gerado para melhor apresentação"""
 
158
  return prompts.get(doc_type, "Tipo de documento não suportado")
159
 
160
  class DocumentGenerator:
161
+ """Gerencia a geração de documentos usando um modelo público"""
162
 
163
  def __init__(self):
164
+ # Usando um Space público de geração de texto
165
+ self.client = Client("abidlabs/gpt4all") # Space público e estável
166
  self.prompt_manager = PromptManager()
167
  self.max_retries = 3
168
 
 
172
  try:
173
  prompt = self.prompt_manager.get_base_prompt(doc_type, context)
174
 
175
+ # Configuração específica para o GPT4All
176
  result = self.client.predict(
177
+ prompt, # Prompt para geração
178
+ "portuguese", # Idioma
179
+ 0.7, # Temperatura
180
+ 1024, # Tamanho máximo
181
+ api_name="/predict"
 
182
  )
183
 
184
  return self._format_output(result)
 
195
  elif "timeout" in error_msg.lower():
196
  return "O servidor está demorando para responder. Por favor, tente novamente."
197
  else:
198
+ return "Não foi possível gerar o documento. Por favor, tente novamente mais tarde."
199
 
200
  def _format_output(self, text: str) -> str:
201
  """Formata o texto gerado para melhor apresentação"""